“AI教父”获诺奖之前,曾对AI说“后悔”
2024-10-09 / 阅读约9分钟
来源:36kr
辛顿曾对AI说“后悔”

2024年诺贝尔物理学奖让许多人惊呼——物理学不存在了!因为它颁给了约翰‧霍普菲尔德(John J. Hopfield)和杰弗里‧辛顿(Geoffrey E. Hinton),理由是他们为机器学习奠定了基础,为今天包括ChatGPT在内的人工智能铺平了道路。

虽然成就斐然,而且可以预期,必将深刻影响人类文明的未来,然而……会不会有那么一点不太“物理”啊?

难怪就连诺贝尔奖官X都发了一条试图往回找补——

01 霍普菲尔德,真正的物理学家

要说不够物理,获奖者约翰·霍普菲尔德可未必同意——他本人就是物理学出身,虽然跨界生物学和神经科学研究多年,但2006年还担任了美国物理学会的主席

霍普菲尔德出生于1933年,爸妈都是物理学家,从小就在物理学的世界里长大。他喜欢拆解家中的物品,如电视机、收音机,甚至是他的自行车和模型飞机,来观察它们的工作原理。于是,他从小就建立起了一个意识:这个世界是可以理解的,你可以拆开任何的东西,理解各部分之间的关系,并通过做实验建立起定量的理解。

年轻时的霍普菲尔德丨古根海姆基金会

尽管他的父亲因为经济大萧条被迫改行,但这并未影响霍普菲尔德对物理学的热情。他在斯沃斯莫尔学院选择了物理学专业,并最终走上了科学研究的道路。

起初,霍普菲尔德对固体物理学感兴趣,并因此去了康奈尔读博士,毕业后又去了贝尔实验室,之后还在加州大学伯克利分校和普林斯顿大学工作。然而,据霍普菲尔德本人说,他在科学问题上的注意力持续时间相对较短,总是在寻找更有趣的问题

霍普菲尔德挂在普林斯顿大学官网的照片|pni.princeton.edu

后来他转向了生物物理学,之后又转向了生物动力学,还发表了两篇论文。在霍普菲尔德看来,物理学和生物化学的思路不一样:对于不会发生的事,生物化学基本不考虑;但物理学认为,大多数化学反应在室温下都是可能的。这种思维上的区别,让他能够以不同的角度看待生物学问题。也因为那两项研究,他离开了普林斯顿的物理学院,进入加州理工学院化学和生物学学院工作。

此时的霍普菲尔德已经40多岁了,但他还没进入最终让他获得诺奖的那个研究领域。

1977年,麻省理工的生物学教授弗朗西斯·奥托·施密特(Francis O. Schmitt)邀请他加入一个神经科学研究项目。霍普菲尔德不知道别人为什么推荐他,而且根据他自己所说,他当时在会议上讲了关于生物分子精确性的研究,在场40名不同领域的专家都没听懂——然而,他还是以物理学家的身份进入了这个研究项目。

然后他就对神经科学着迷了。

1988年的一次讲座丨john hopfield@youtube

1979年,他开始研究简单网络中二元神经元的计算动力学。1982年,年近五旬的他发表论文,介绍了一种现在被称为霍普菲尔德网络的递归神经网络,这也是今天为他带来获得诺奖荣誉的研究。

今天,他获得了诺贝尔物理学奖,如今他91岁。

霍普菲尔德获奖后的第一张照片,摄于当地时间早上6点20分丨普林斯顿

有趣的是,今天的另外一位获奖人,杰弗里‧辛顿,搞了一辈子神经网络,却没有一种网络被称为辛顿网络。霍普菲尔德一个搞物理的,反倒创造了用自己名字命名的霍普菲尔德网络——还真是造化弄人。

02 辛顿:家庭不允许我当学渣

辛顿家绝对是标准的书香门第。杰弗里的曾祖父,查尔斯·辛顿,娶了乔治·布尔的的女儿Mary Ellen——此布尔是英国著名数学家,提出了“布尔代数”。布尔的妻子Mary Ellen Boole是一位自学成才的数学家,帮助丈夫编纂了数学著作。

玛丽的叔叔乔治·埃弗勒斯,是著名探险家、地理学家,他的学生用“埃弗勒斯”给珠穆朗玛峰做了英文名(而埃弗勒斯本人表示反对)。玛丽的妹妹Ethel,更被中国人熟知的身份是《牛虻》的作者伏尼契夫人——伏尼契是她的夫姓。

曾祖父查尔斯本人也是数学家,同时创作科幻小说。

著名的《麦克白夫人》绿色戏服,是杰弗里·辛顿曾祖父的妹妹设计的

杰弗里的父亲是昆虫学家、皇家学会成员。杰弗里的堂姑是寒春(Joan Hinton)。寒春是物理学博士,曾参与曼哈顿计划,后与未婚夫阳早来到中国,从事农业相关工作。寒春的哥哥韩丁(William Hinton)也与中国有很深的渊源,著有《翻身——中国一个村庄的革命纪实》。

辛顿家的各种血亲姻亲里,还包括:查尔斯·霍顿,数学家,首次提出四维超正方体;塞巴斯蒂安·霍顿,户外攀爬架的发明者;露西·埃弗勒斯,第一位被选入皇家化学学会的女性……

书香门第,外加严厉的父母,令杰弗里从小就倍受压力。妈妈给他的童年教育是:做不成学者,就是个渣渣(Be an academic, or be a failure)。爸爸说:“你要是像我一样努力,等你到了我现在年纪的两倍时,估摸着能达到我现在的成就!”在彭博社的采访里,杰弗里说:“大概在7岁的时候,我就意识到一件事:我不读个博士是不行的。

03 辛顿曾对AI说“后悔”

对于他亲自奠定了基础、如今正在飞速发展的AI,辛顿感到了“后悔”。

2023年5月离开谷歌后,辛顿终于能毫无顾忌地警示“AI的风险”了。而在10年之前,辛顿与两名学生创立了深度神经网络研究公司DNN-research,在ImageNet图像识别竞赛中取得了突破性成绩,从而引起了科技巨头们的注意。谷歌收购了该公司,辛顿随即加入,负责Google Brain的部分研究工作。

Geoffrey Hinton Alex Krizhevsky Ilya Sutskever |The University of Toronto

离开谷歌后,辛顿在多个场合表达了自己的担忧:

今年2月,在牛津大学Romanes讲座上,他说“如果数字超级智能真的想要控制世界,我们不太可能阻止它”;

他越是使用ChatGPT,越是感到不安,他说它的理解水平似乎代表了人工智能的一个新时代。当辛顿开始他的研究时,没人认为他所从事的方向会成功,即使开始成功,也没有人想到会这么快成功。所以辛顿既期待它在很多领域做出贡献,也担心技术由于发展太快会被滥用。

Geoffrey Hinton outside Google HQ|The Spectator

他担心AI可能会取代人类的工作,导致大量失业,尤其是在那些涉及例行任务的职位上,如律师助理、个人助理和翻译;辛顿认为AI创造的财富可能会加剧全球贫富差距,因为新增的财富可能会流向已经富有的人群,而不是穷人,等等。

辛顿曾在社交媒体上这样写道,毛毛虫吸取营养,而后化茧成蝶。人们已经提取了数十亿个理解的金块,而GPT-4就是人类的蝴蝶——很多人看到过这句话。

是辛顿开创的技术,导致了这种蜕变的发生,但按他现在的想法,蜕变还远没结束。辛顿在积极推动建设AI监管框架和建立AI安全共识,以免AI通向人类无法控制的未来。

不过,得知自己获得诺贝尔物理学奖之后,老爷子倒是没有再次表示“后悔”,而是顺手——取消了核磁共振检查。

鉴于老爷子的高龄,这边建议还是按时做完身体检查呢……

参考文献

[1] https://analyticsindiamag.com/intellectual-ai-discussions/geoffrey-hinton-its-all-in-the-family-tree/

[2] https://www.newyorker.com/magazine/2023/11/20/geoffrey-hinton-profile-ai

[3] https://www.britannica.com/biography/Geoffrey-Hinton

[4]John J. Hopfield. 2014. Whatever Happened to Solid State Physics? Annual Review of Condensed Matter Physics. Vol. 5:1-13. https://doi.org/10.1146/annurev-conmatphys-031113-133924

简体中文 繁體中文 English 日本語 Deutsch 한국 사람 русский بالعربية TÜRKÇE português คนไทย Français