科学之路
[法] 杨立昆
信息的自由流动就是进步的动力。
——杨立昆 本书赞誉 人工智能的崛起时刻
特伦斯·谢诺夫斯基
美国四大国家学院(国家科学院、国家医学院、国家工程院、国家艺术与科学学院)院士,《深度学习》作者
本书讲述的是人工智能(AI)历史上一个绝无仅有的时刻发生的故事。
在21世纪机器学习成为现实之后,人工智能也迎来了自己的关键时刻。在机器学习快速扩张的能力背后是活跃的研究圈子,而在这个圈子里,杨立昆是举足轻重的先行者。这一突破可以追溯到20世纪80年代的神经网络革命。我第一次见到杨立昆是在法国东北部小镇莱苏什的一次物理学会议上,那时候他还是学生,而他当时研究的内容后来演变成反向传播算法。杰弗里·辛顿(Geoffrey Hinton)和我此前在统计力学中得到灵感,向有隐藏单元的网络引入了玻尔兹曼机器学习算法。当时,神经网络还是新兴领域,物理学、心理学和工程学的领军人物鲜有涉足,也几乎没有人能预见到机器学习有一天会对世界产生这么深远的影响,但杨立昆已经把实现这个目标当成了毕生的事业。
后来杨立昆成为杰弗里·辛顿的博士研究生,再后来进了贝尔实验室当上了研究员,在此过程中,他一直在为这一目标不懈努力。他构想了一种神经网络架构,可以识别图像中的物体,这就是LeNet。随着计算机变得越来越强大,LeNet的规模也越来越大,性能不断提高。当时,关于计算机视觉的研究基本上都在强调几何特性,每添加一个对象都意味着要手动加入新的几何特征,这样才能将新对象与所有已有对象区别开来,而且需要有这个领域的专业知识,以及大量人工操作才能做到,因此进展缓慢。而在神经网络中,将不同对象区分开的特征可以从足够大的图像数据集里学习到。互联网提供了大量图片,计算机内存的增长速度也比处理能力的增长更快。杨立昆还有另一个有利因素,那就是他的架构很容易就能分布到多个并行工作的处理器上。
GPU(图形处理器)实际上可以有效…