Skip to main content
 首页 » 热点

图灵奖不会忘记英雄:3 个人 30 年的深度学习孤独之旅

 

  

  有一个流传很广的说法:乔布斯把公司取名苹果,并以咬了一口的苹果作为 logo,是为了纪念服食毒苹果自杀的计算机科学先驱艾伦·图灵。

  

  ▲ 艾伦·图灵纪念铜像. 图片来自:Lmno

  乔布斯否认了这个说法,但他说,「很希望自己是那样构思的」。从计算机科学到人工智能,图灵都做出了奠基性的贡献,以他的名字命名的「图灵奖」,被公认为计算机世界的最高荣誉,相当于计算机界的诺贝尔奖。

  今年的图灵奖被授予了深度学习领域的三巨头:Yoshua Bengio, Yann LeCun 和 Geoffrey Hinton,以表彰他们对人工智能发展的推动,三位科学家将平分 100 万美元的奖金。

  

  ▲自左至右分别为:Yann LeCun、Geoffrey Hinton 和 Yoshua Bengio. 图片来自:The New York Times

  现在,深度学习已经几乎是人工智能的代名词,从 AlphaGo、人脸识别、智能语音助手到自动驾驶,都得益于深度学习的发展。但它的进步,是一个孤独的故事。

  过去 10 年内,ImageNet 图像识别挑战赛都是人工智能领域最权威的比赛之一。

  ImageNet 有一个超百万张图片的超级数据库,其中的图片由人手工添加标签,说明图片的内容,并分成不同的类别,从动物、汽车等大类,一直到虎鲨、厕纸这样的小类。参赛者要做的就是对图片中的物体进行识别和分类,准确度最高者获胜。

  

  ▲ ImageNet 数据集中「猎狐犬」的部分示例. 图片来自:新智元

  2012 年,首次参赛的加拿大计算机科学家 Geoffrey Hinton 领衔的团队拿到了冠军,而且,比第二名准确率高出了 10%。

  这个结果震惊了学术界,因为当时的第二名到第四名都用了相同的研究方法,他们已经做到了极致,每个队伍准确率的差别不超过 1%。

  Hinton 团队用的是完全不同的方法——深度学习,具体的算法被称为卷积神经网络(CNN)。这是一个里程碑式的进步,正是 Hinton 团队的突破,让学术界和工业界用更多人关注、使用深度学习,最终推动了人工智能行业的大发展。

  

  ▲ 战胜李世乭的 AlphaGo 是卷积神经网络的应用

  如果以识别猫为例,传统的计算机视觉算法依靠设计者的先验知识,比如通过猫的集合体推断出,四条腿,体型较小,会喵喵叫的动物为猫。机器通过人的思维构建的模式来判断它是否为猫。

  深度学习则不同,它从海量的和猫相关的数据中自动学习,并提取出相应特征,最终可以判定某个未知物体为猫。它和人类的思维方式更为接近,这种算法也被归于神经网络。

  虽然看起来深度学习从根本上就是一个更先进的算法,但在过去相当长的时期内,它并不被看好。因为过去用于训练的数据集规模都比较小,这很容易导致过拟合现象,即算法在测试集表现很好,但在实际应用出会出现极大的误差;同时,计算机性能也无法满足拥有成千上万个参数的深度学习模型。

  

  ▲ 深度学习系统对高性能 GPU 有强烈需求,英伟达是从中受益的公司之一

  Yoshua Bengio, Yann LeCun 和 Geoffrey Hinton 三位科学家正是在这样的限制下坚持深度学习研究的。

  Hinton 已经 71 岁了,上世纪 70 年代,还在爱丁堡大学攻读人工智能博士学位的他就着迷于神经网络,这和当时的学术主流背道而驰,就连他的博士生导师也反对他的研究。

  「我们一周见一次面,有时会以争吵结束,有时候不会。」Hinton 在一次采访中曾回忆他的博士时光。

  Yoshua Bengio 和 Yann LeCun 要年轻一些,三人的研究互有交集。Yann LeCun 现年 58 岁,1987 至 1988 年,他在 Hinton 的实验室中有一年的博士后研究经历,之后加入当时最顶尖的隶属于 AT&T 的贝尔实验室。

  

  ▲ 贝尔实验室曾是全世界最顶尖的前沿科学研究机构,研究范围包括包括数学、物理学、材料科学、行为科学和计算机编程理论以及电信网络的高度复杂系统等. 图片来自:MBisanz

  在贝尔实验室中,LeCun 利用深度学习研发出了识别手写的信件和电话号码的系统,这个成功取得了不错的商业成功,它一度识别了美国 10% 的手写支票。

  但是,当他将深度学习用于其他领域时,就遇到了重重困难,只有当训练数据集足够大时,深度学习才能表现得足够好,但当时很少有什么领域满足这个条件。

  LeCun 的研究被视为异类,但依然有一些研究员和他一样坚信深度学习的未来,包括现年 55 岁的 ,当时同在贝尔实验室的 Yoshua Bengio。

  2004 年,在加拿大前沿科学机构的赞助下,Geoffrey Hinton 创立了专注于「神经计算和自适应感知」的项目,他也邀请了在深度学习坚持多年的 Yoshua Bengio 和 Yann LeCun 加入。

  

  三人联手后,就是推动深度学习不断前进的故事。他们在 2010 年帮助微软、IBM 和 Google 拓展了语音识别的边界,之后在图像识别做了相同的工作,一直到 2012 年,Hinton 领衔的团队在 ImageNet 图像识别挑战赛一战成名,掀开了人工智能的崭新一页。

  现在,Hinton 加入了 Google,同时在多伦多大学继续研究工作;LeCun 是 Facebook 的首席人工智能科学家,同时也是纽约大学的教授;Bengio 拒绝了科技巨头的邀请,他是蒙特利尔大学的教授,并创立了一家名为 Element AI 的 AI 公司。

  如果算上 Hinton 在博士期间的研究,他们已经默默为深度学习奉献了 30 年。

  「他们引领了科学范式的转变,历史最终选择了他们,我充满敬畏。」另一位 AI 大牛,艾伦人工智能研究所 CEO,Oren Etzioni 如此评价他们的获奖。

  图灵奖没有忘记英雄,我们也应该铭记。

  题图来自:The New York Times

评论列表暂无评论
发表评论
微信