Project Adam vs. Artificial Brain,微软与谷歌角力人工智能

更新时间:2014-07-16 11:12:05点击次数:1404次

摘要:在7月14日Washington Redmond的Microsoft Research Faculty Summit上,微软研究团队宣称他们已经通过Adam深度学习系统实现新的记录。同负载下,对比Google Brain,训练只需1/30的机器和1/2的时间。

【编者按】谈到人工智能、神经网络,人们首先想到的往往就是Google,这有一大部分原因是基于搜索巨头当下的业务。然而微软近日的一则报告显示,该公司图像识别项目Project Adam可以在更少资源下,更快的完成分析——1/30机器,1/2的时间。

 

免费订阅“CSDN云计算”微信公众号,实时掌握第一手云中消息!


CSDN作为国内最专业的云计算服务平台,提供云计算、大数据、虚拟化、数据中心、OpenStack、CloudStack、Hadoop、Spark、机器学习、智能算法等相关云计算观点,云计算技术,云计算平台,云计算实践,云计算产业资讯等服务。


以下为译文


微软的新人工智能系统,图像识别项目Project Adam,基于各种狗图片的数据集


我们进入了一个新的人工智能时代。


时至今日,包括Google、Facebook、微软、Apple等顶级技术公司都在通过“深度学习”大力发展人工智能,以寻求各个领域提升,代表性应用包括语音识别、语言转换及计算机视觉。 在人工智能新篇章中,谷歌一般被认为是先行者,近日该公司更聘请了深度学习运动核心研究员——多伦多大学的Geoff Hinton。此前,Google还曾多次展示AI技术对真实世界应用的提升作用,其中包括深度学习对语音搜索及安卓智能设备的改进,更在语音识别与计算机视觉领域留下多项纪录。


在7月14日Washington Redmond的Microsoft Research Faculty Summit上,微软研究团队宣称他们已经通过Adam深度学习系统把机器学习带入了新的纪元。通过微软了解到,对比之前的系统,Adam在图像识别上将达到两倍的速度(基于狗或植被数据集的训练),然而只使用了不到三十分之一的机器。微软研究院负责人Peter Lee称,Adam旨在建立最大的大脑。Peter Lee还透露,在一个称为ImageNet 22K的基准测试中,Adam的神经网络性能已高于Google Brain公布的数据。这个测试基于2.2万个类型的图片上,其中包括Google Brain。


 Adam项目团队:Karthik Kalyanaraman、Trishul Chilimbi、Johnson Apacible、Yutaka Suzue(从左至右) 

微软称Adam新深度学习算法的目的不是为了打败Google,其中的关键在于探索更好的优化让机器能更好地处理数据。


Adam工作原理


类似其他的深度学习系统,Adam运行在一个标准服务器阵列上,资源通过Azure组织。深度学习旨在通过神经网络建立更类似大脑的思维方式,通常情况下组件神经元需要大量的服务器。而对比常见的神经网络,Adam最大的特点是使用了异步模式。


随着计算系统变得越来越复杂,系统内机器间的信息交互已成为难点,异步机制无疑可以缓解这个问题。本质上说,异步是将整个系统拆解为可独立运作单元,同时在需要时又可以作为一个整体共享资源。然而问题就在于,虽然这个技术可以在手机和平板上工作良好(计算分布在不同的计算机芯片上),但是在大规模服务器场景下却并不如人意,已成为许谷歌等多大型公司(包括)攻克的难关。在Adam内,微软使用了威斯康星大学开发的技术——“HOGWILD! ”。


HOGWILD! 初始设计是为了保证同一台计算机中各个芯片的独立运行,甚至可以保证不同芯片在同一处内存中写入时不会发生覆盖。HOGWILD! 的使用并不常见,因为不同机器同时写入会导致数据冲突(覆盖写入),然而也不排除一些例外,比如计算系统越小,HOGWILD!引发冲突的几率就越低。Adam无疑让HOGWILD!的运用更加深入,让它适用于整个神经网络的计算机集群。微软Adam项目研究院Chilimbi表示,微软让HOGWILD的使用场景变得更加广泛,让异步进行的更加深入。


虽然神经网络的密集度更高,数据冲突的概率更大,但是如果系统可以处理同一计算同时返回结果的情景,冲突就可以避免。其原理就在于,当机器修改主服务器时,往往进行的都是增量更新。微软表示这个设置可以让神经网络更快及更准确的完成训练,比如说图像识别。百度首席科学家Andrew Ng表示,这是一个积极的策略,它将节省大量的计算资源。

  

令Andrew兴奋的是,Adam运行的基础是CPU而不是GPU,Andrew表示,当下许多神经网络系统使用GPU来避免通信瓶颈,Adam走出了一个不同的道路,这才是最有价值的事情。


神经网络能处理大量的数据,但是他们却需要跨越更多CPU。另一种选择是使用GPU,它可以更快速处理数据,但是问题在于,通信系统远远承受不了GPU的数据输出,这也是许多人认为GPU不适合当下神经网络规模的原因。


HOGWILD!究竟如何


微软当下对Adam的赞赏可见一斑,但是许多专家认为这个系统的建立思路与谷歌并没有什么不同。在不知晓网络调教的情况下,很难清楚微软使用什么方法达到了所公布的性能。因为违背常理,微软的研究显然让人更加有兴趣,Matt Zeiler(Clarifai创始人,原Google Brain项目成员)表示。他认为,Adam准确性的提升应该来自机器数量增加,在更多HOGWILD! 的研究后,微软是否是赢家这个谜底显然会被揭开。


微软研究院负责人Peter表示,项目当下还处于初期状态,只部署在一个内部APP上,它可以在你拍摄某个物体后识别它的照片是否已存在你手机上。微软研究院负责人Peter曾用它识别狗和bug是否为病毒。虽然暂时还未有App的公布计划,但是微软研究院负责人Peter更看好它在电子商务、机器人以及情绪分析领域的前景,微软更基于Adam是否能提高FPGA做了相关探索。


FPGA表示Adam有希望成为“机器智能”未来的一部分,虽然神经网络的成熟应用可能还需等几十上百年,但毫无疑问的是,科学一直在进步。(更多内容见原文视频)


原文链接: Microsoft Challenges Google’s Artificial Brain With ‘Project Adam

  • 项目经理 点击这里给我发消息
  • 项目经理 点击这里给我发消息
  • 项目经理 点击这里给我发消息
  • 项目经理 点击这里给我发消息