转载

刷新神经网络新深度：ImageNet计算机视觉挑战赛微软中国研究员夺冠

刷新神经网络新深度：ImageNet计算机视觉挑战赛微软中国研究员夺冠微软亚洲研究院首席研究员孙剑

世界上最好计算机视觉系统有多精确？就在美国东部时间12月10日上午9时， ImageNet计算机视觉识别挑战赛结果揭晓 ——微软亚洲研究院视觉计算组的研究员们凭借深层神经网络技术的最新突破，以绝对优势获得图像分类、图像定位以及图像检测全部三个主要项目的冠军。同一时刻，他们在另一项图像识别挑战赛MS COCO（Microsoft Common Objects in Context，常见物体图像识别）中同样成功登顶，在图像检测和图像分割项目上击败了来自学界、企业和研究机构的众多参赛者。

ImageNet计算机视觉挑战赛由来自全球顶尖高校和公司的研究员组织举办，近年来已经成为计算机视觉领域的标杆，其比赛结果总能十分直观地反映出计算机视觉这一热门领域中各研究机构的研究进展和突破。MS COCO数据库是由微软资助建立，其挑战赛目前由学术界几所高校联合组织，独立运行。

这两个挑战赛的侧重点各有不同： ImageNet 倾向于评测识别图像中显著物体的能力，而 MS COCO 倾向于评测识别复杂场景中的各类物体的能力。能同时在两个世界级的比赛中获得冠军，足以说明研究组的技术突破是通用的——它可以显著地改善计算机视觉领域的各项研究，甚至计算机视觉领域以外的研究，比如语音识别。那么究竟是什么样的技术突破？

在计算机视觉领域，深层神经网络的方法常常被研究人员用来训练计算机识别物体，微软也不例外。但微软亚洲研究院的研究员们在此次ImageNet挑战赛中使用了一种前所未有，深度高达百层的神经网络。该网络的层数比以往任何成功使用的神经网络的层数多 5 倍以上。

要实现这一技术，背后的挑战巨大。起初，连研究员们自己都不确信训练非常深的网络是可能或有用的。“我们没想到这样一个简单的想法意义却如此重大。” 微软亚洲研究院首席研究员孙剑坦言。完成这项技术突破的团队由 4位中国研究员组成：孙剑与何恺明来自微软亚洲研究院视觉计算组，另外两人为微软亚洲研究院的联合培养博士生，分别是来自西安交通大学的张祥雨和中国科学技术大学的任少卿。

刷新神经网络新深度：ImageNet计算机视觉挑战赛微软中国研究员夺冠微软亚洲研究院主管研究员何恺明

当然，这个重大的技术突破震惊的不仅仅是这个研究团队的研究员们。微软全球资深副总裁Peter Lee表示，“从某种意义上说，他们完全颠覆了我之前对深层神经网络的设想。”

ImageNet 挑战赛去年获胜的系统错误率为 6.6% ，而今年微软系统的错误率已经低至 3.57% 。事实上，该研究团队早在今年一月就首次实现了对人类视觉能力的突破。当时，在题为“ Delving Deep into Rectifiers: Surpassing Human-Level Performance on ImageNet Classification ”的论文中，他们系统的错误率已降低至 4.94% 。此前同样的实验中，人眼辨识的错误率大概为 5.1% 。

滴水穿石：这是一个关于耐心与创新的故事

近几十年来，科学家们一直都在训练计算机做各种各样的事情 , 例如图像或语音识别。但很长一段时间内，这些系统的误差巨大，难以消弭。

大约在五年前，研究人员们开始重新使用 “神经网络”的技术并使其再次焕发出新的活力。神经网络的复兴让图像和语音识别等技术的精度实现了大幅度飞跃。微软的 Skype Translator 实时语音翻译技术就得益于此，它能够更好地识别语音，从而不断完善机器翻译的准确性。

类似于人脑，神经网络包含多级非线性处理层。从理论上说，越多的层级应该能带来越好的学习结果。但实际实验中的最大挑战是，在通过每一层级的反传训练中，反穿监督信号幅度会迅速衰减，这让整个神经网络系统的训练极为困难。

孙剑回忆到：“三年前，当计算机视觉和机器实际领域训练出 8 层的深层神经网络系统时，识别精度有了质的飞跃。去年出现了足有 20 到 30 层的深层神经网络，识别精度又被大幅刷新。”

孙剑和他的组员们认为网络还可以更深。过去的几个月来，他们用各种方式来添加更多的层级，同时还要保证结果的准确性。他们经历了大量错误的尝试，也吸取了很多的经验教训。最后，一个被他们称之为“ 深层残差网络（ deep residual networks ）”的系统在微软亚洲研究院成功诞生。

这个“ 深层残差网络 ”正是他们用于 ImageNet 挑战赛的系统，它实现了惊人的 152 层，比以往世界范围内的任何系统都深 5 倍以上。它还使用了一个全新的“ 残差学习 ”原则来指导神经网络结构的设计。残差学习最重要的突破在于重构了学习的过程，并重新定向了深层神经网络中的信息流。残差学习很好地解决了此前深层神经网络层级与准确度之间的矛盾。

借水行舟：从科研探索到智能产品

神经网络有一个非常重要的优点，就是学习到的内部表示或特征可以在不同任务中复用。 Skype Translator 就是一个很好的例子，英语与德语之间的翻译准确率可以随着英语与中文翻译的不断增加而提高。

孙剑表示，他们的深层残差网络具有非常强的通用性。他们把该系统用于 ImageNet 挑战赛的分类任务后，他们发现这一系统学到的内部表示或特征能显著提高其它三项任务：检测（ detection ），定位（ localization ）和分割（ segmentation ）。“从我们极深的深层神经网络中可以看出，深层残差网络力量强大且极为通用，可以预见它还能极大地改善其它计算机视觉问题。”

事实上，孙剑团队多年来在计算机视觉领域的研究成果已经转化到众多微软的智能产品和服务中，例如，微软牛津计划中的人脸识别和图像识别 API ， Windows 10 中的 Windows Hello “刷脸”开机功能，必应的图像搜索，微软小冰的多个图像“技能”， OneDrive 中的图片分类功能，以及广受好评的口袋扫描仪 Office Lens 等等，不胜枚举。

以微软牛津计划为例，该计划开放了一系列机器学习相关的 API ，让没有机器学习背景的开发人员也能构建自己的智能应用。而其中人脸识别 API 作为牛津计划最先开放的 API ，受到广泛使用。此前火遍全球的 How-old.net （微软颜龄机器人）和 Twins or Not （微软我们）就是在人脸识别 API 基础上，通过几行简单的代码实现的。

通过和微软产品部门的紧密合作，这些来自于微软亚洲研究院的全球领先的计算机视觉技术得以应用在几亿人的生活中。而这些来自中国研究员的研究成果，正在为我们的生活带来一场“隐形革命”，为全球用户提供更智能的生产力工具和更个性化的计算体验。

微软全球资深副总裁、微软亚洲研究院院长洪小文博士表示，“微软研究院多年来深耕基础研究，以赋予计算机看、听、说等人类感知能力为目标。与视觉在人类感官中的重要性相同，计算机视觉的一次次重大突破无疑为人工智能的整体发展提供了强大动力。让计算机看懂多彩的世界，一直是激励微软研究院及计算机领域同仁在这条充满挑战的道路上前行的重要力量。未来，还有更多突破等着我们去挑战！”

“微软亚洲研究院成立 17 年了，她的研究环境和气氛为中国 IT 届培养了众多的人才 ; 我在这里工作了 12 年，静下心来你就能在这样的环境中收获激动人心的发现。今天，我对我的团队说，请享受一天获得 NBA 冠军的感觉！” 孙剑说。

相关论文： http://arxiv.org/abs/1512.03385