参考消息网11月6日报道 澳大利亚“对话”网站10月8日刊登题为《诺贝尔物理学奖聚焦人工智能革命的重大突破——制造会学习的机器》的文章,作者是美国密歇根大学统计学教授安布杰·蒂瓦里,内容编译如下:
如果最新的人工智能生成视频让你惊掉下巴,防诈骗系统从犯罪分子手中挽救了你的银行余额,或者你的生活因为可以一边跑步一边口述发短信而变得稍稍轻松,那么你要感谢许多科学家、数学家和工程师。
但有两个名字因对深度学习技术的基础性贡献脱颖而出,他们让这些体验成为可能:普林斯顿大学物理学家约翰·霍普菲尔德和多伦多大学计算机科学家杰弗里·欣顿。
这两位研究人员因在人工神经网络领域的开创性工作,于2024年10月8日获得诺贝尔物理学奖。尽管人工神经网络是以生物神经网络为模型的,但两位研究人员的工作都借鉴了统计物理学,因此获得了物理学奖。
神经元如何计算
人工神经网络起源于对活体大脑生物神经元的研究。1943年,神经生理学家沃伦·麦卡洛克和逻辑学家沃尔特·皮茨提出了一个神经元工作方式的简单模型。在麦卡洛克-皮茨模型中,一个神经元与其相邻的神经元连接,并能从它们那里接收信号。然后,它可以将这些信号组合起来,向其他神经元发送信号。
但有一个转折:它可以有区别地衡量来自不同相邻神经元的信号。试想,你要决定是否买一部新的畅销手机。你和朋友们聊天,向他们寻求建议。一个简单的策略是收集所有朋友的建议,并决定听从大多数人的意见。比如,你问了三个朋友:爱丽丝、鲍勃和查理,他们分别给出了赞同、赞同和反对的意见。这导致你决定买这部手机,因为有两个赞同和一个反对。
不过,你可能更信任一些朋友,因为他们对科技产品有深入的了解。于是你可能会决定更看重他们的建议。例如,如果查理非常懂行,你可能会把他的反对意见放大到三倍,现在你决定不买这部手机——因为有两个赞同和三个反对。如果你不幸有一个你对他在科技产品上的意见完全不信任的朋友,你甚至有可能把他们的意见反过来听。于是,他们的赞同就成了反对,他们的反对就成了赞同。
一旦你对新手机是否是个好选择做出了自己的决定,其他朋友就可以向你寻求建议了。同样,在人工和生物神经网络中,神经元可以聚合来自邻居的信号,并向其他神经元发出信号。这种能力导致了一个关键的区别:这个网络中是否存在循环?例如,如果我今天问爱丽丝、鲍勃和查理,明天爱丽丝问我的建议,这就有了一个循环:从爱丽丝到我,又从我回到爱丽丝。
如果神经元之间的连接没有循环,那么计算机科学家就将其称为前馈神经网络。前馈神经网络中的神经元可以层层排列。第一层由输入的信息构成。第二层从第一层接收信号。以此类推,最后一层代表着网络的输出信息。
然而,如果这个网络中存在循环,计算机科学家就称之为循环神经网络,那么神经元的排列就会比在前馈神经网络中更为复杂。
霍普菲尔德网络
人工神经网络的最初灵感来自生物学,但很快其他领域开始影响它们的发展。其中包括逻辑学、数学和物理学。物理学家约翰·霍普菲尔德利用物理学中的一些思想来研究一种特定类型的循环神经网络,现在被称为霍普菲尔德网络。他特别研究了它们的动态:随着时间推移,这个网络会发生什么变化?
当信息通过社交网络传播时,这种动态也很重要。每个人都知道表情包在网上传播,社交网络上会形成回音室。这些都是集体现象,最终产生于网络中人与人之间简单的信息交换。
霍普菲尔德是利用物理学模型——尤其是用来研究磁性的模型——来了解循环神经网络动态的先驱。他还表明,它们的动态可以为此类神经网络提供一种记忆形式。
玻尔兹曼机模型
20世纪80年代期间,杰弗里·欣顿、计算神经生物学家特伦斯·谢伊诺夫斯基等人扩展霍普菲尔德的想法,创建了以19世纪物理学家路德维希·玻尔兹曼命名的一类新模型。顾名思义,这些模型的设计源于玻尔兹曼开创的统计物理学。与能够储存模式和纠正模式错误——就像拼写检查程序所做的那样——的霍普菲尔德网络不同,玻尔兹曼机可以创造新的模式,从而播下现代生成式人工智能革命的种子。
如果你想让人工神经网络完成有趣的任务,你就不得不为人工神经元之间的连接选择合适的权重。反向传播是一种关键算法,它让根据训练数据集的网络性能来选择权重成为可能。反向传播最早是在控制理论领域发展的,1974年保罗·沃博斯将其应用于神经网络。20世纪80年代,欣顿及其同事证明,反向传播可以帮助神经网络的中间层学习输入信息的重要特征。例如,学习检测图像中眼睛的神经元学会了对面部检测有用的重要特征。
然而,训练多层人工神经网络仍然具有挑战性。在本世纪初,欣顿及其同事巧妙地利用玻尔兹曼机训练多层网络,他们首先逐层预训练网络,然后在预训练的网络之上使用另一种微调算法来进一步调整权重。多层网络被重新命名为深度网络,深度学习革命开始了。
AI回报物理学
诺贝尔物理学奖展示了来自物理学的思想如何促进了深度学习的兴起。现在,深度学习已经开始回报物理学,它可以准确、快速地模拟从分子和材料一直到整个地球气候的各种系统。
通过将诺贝尔物理学奖授予霍普菲尔德和欣顿,颁奖委员会表达了对人类利用这些进步来促进人类福祉和建立一个可持续发展世界的潜力的希望。(编译/卢荻)