杰弗里·辛顿

认知心理学家和计算机科学家,2024年诺贝尔物理学奖获得者

杰弗里·辛顿

杰弗里·辛顿(Geoffrey Hinton),全名杰弗里·埃弗勒斯特·辛顿(Geoffrey Everest Hinton),1947年12月6日出生于英国温布尔登,拥有英国和加拿大双重国籍,著名认知心理学家和计算机科学家,加拿大多伦多大学教授,2024年诺贝尔物理学奖获得者。[2][3][4][5]辛顿于1970年在剑桥大学获得实验心理学学士学位,1978年在爱丁堡大学获得人工智能博士学位。[6]他曾在萨塞克斯大学和加州大学圣地亚哥分校从事博士后研究,并在卡内基梅隆大学计算机科学系担任了五年的教职。随后,辛顿成为加拿大高级研究院的研究员,并转到多伦多大学计算机科学系 。1998年至2001年,辛顿用三年的时间在伦敦大学学院建立了盖茨比计算神经科学部门。2004年至2013年,他担任加拿大高级研究院资助的“神经计算和自适应感知”项目的主任。从2013年到2023年,辛顿兼职在谷歌工作,担任副总裁兼工程研究员。[2][3][4][7]

杰弗里·辛顿(Geoffrey Hinton),全名杰弗里·埃弗勒斯特·辛顿(Geoffrey Everest Hinton),1947年12月6日出生于英国温布尔登,拥有英国和加拿大双重国籍,著名认知心理学家和计算机科学家,加拿大多伦多大学教授,2024年诺贝尔物理学奖获得者。[3][4][5][6]

辛顿于1970年在剑桥大学获得实验心理学学士学位,1978年在爱丁堡大学获得人工智能博士学位。[7]他曾在萨塞克斯大学和加州大学圣地亚哥分校从事博士后研究,并在卡内基梅隆大学计算机科学系担任了五年的教职。随后,辛顿成为加拿大高级研究院的研究员,并转到多伦多大学计算机科学系 。1998年至2001年,辛顿用三年的时间在伦敦大学学院建立了盖茨比计算神经科学部门。2004年至2013年,他担任加拿大高级研究院资助的“神经计算和自适应感知”项目的主任。从2013年到2023年,辛顿兼职在谷歌工作,担任副总裁兼工程研究员。[3][4][5][8]

辛顿致力于推动人工智能的发展,通过对神经网络模型的研究彻底改变了人工智能领域。他在反向传播、玻尔兹曼机、分布式表示和延时神经网络等领域的新颖见解和关键发现为人工智能研究做出了重大贡献,被誉为“神经网络之父”。2018年,辛顿获得了图灵奖。2024年,辛顿获得诺贝尔物理学奖[3][4][5][8][9][10][11]

教育经历

1947年12月6日,杰弗里·辛顿出生于英国温布尔登的一个知识分子家庭。出众的家庭背景为辛顿提供了良好的教育环境,他顺利进入了剑桥大学,并先后攻读生理学、哲学和物理学,并在1970年获得剑桥大学实验心理学学士学位。辛顿认为,当时这些科学都还未能对人类思维做出太多解释。为了寻求更切实的满足感,他曾短暂转行做木工,但1972年,人工智能的前景吸引他重返学术界,他在爱丁堡大学学习人工智能,并在1978年获得人工智能博士学位。[3][4][5][8][9][10][11]

工作经历

获得博士学位后,尽管受到教授的劝阻,辛顿还是接受了以神经节点和人脑结构为模型的非传统计算机网络。他开始研究被称为神经网络的系统,并在加州大学圣地亚哥分校完成了博士后研究。1982年,辛顿加入卡内基梅隆大学担任教职,期间,他与心理学家大卫·鲁梅尔哈特和计算机科学家罗纳德·威廉姆斯开发了一种算法,用于在测量误差时从输出反向计算输入,并在1986年三人合发的论文中对过程进行了论证,该论文为神经网络的发展奠定了基础。[3][4][5][8][9][10][11]

1987年,辛顿因反对美国军方和里根政府将人工智能应用于军事,决定离开美国前往加拿大。此后,他在多伦多大学担任教授,并继续人工智能领域的研究。1996年,他当选为加拿大皇家学会院士。1998年,辛顿离开多伦多大学,加入伦敦大学学院,并花费了3年的时间建立了盖茨比计算神经科学部门。同年,他当选为英国皇家学会院士。在此担任研究员期间,辛顿主要研究了神经网络及其应用。2001年,辛顿重返多伦多大学,并继续在神经网络模型的研究上取得进展。[3][4][5][8][9][10][11]

2012年,辛顿和他的两名研究生亚历克斯·克里切夫斯基,伊尔亚·苏茨克维开发了一个八层神经网络程序,他们将其命名为AlexNet,用于识别ImageNet(一个庞大的在线图像数据集)上的图像。AlexNet 的表现比下一个最准确的程序高出40%以上。三人为AlexNet创立了一家名为DDNresearch的公司。2013年,谷歌以4400万美元的价格收购了该公司。同年,辛顿加入了谷歌的人工智能研究团队Google Brain,并最终被任命为副总裁兼工程研究员。2018年,辛顿与约书亚·本吉奥和杨乐昆共同获得了图灵奖。2023年5月,辛顿辞去了谷歌的工作,主要原因是他希望能够自由谈论人工智能应用的风险,他担心人工智能制造虚假内容的能力以及颠覆就业市场的可能性。[3][4][5][8][9][10][11]

辛顿工作照
辛顿工作照

获诺贝尔奖

2024年10月8日,瑞典皇家科学院决定将2024年诺贝尔物理学奖授予杰弗里·辛顿和约翰·霍普菲尔德,以表彰他们为利用人工神经网络进行机器学习做出的基础性发现和发明。[10]

视频暂不可用
杰弗里·辛顿和约翰·霍普菲尔德获得2024年诺贝尔物理学奖

社会任职

曾任认知科学学会主席;英国皇家学会会员、加拿大皇家学会会员、人工智能促进会会员;美国艺术与科学学院美国国家工程院美国国家科学院的荣誉外籍院士;英国爱丁堡大学、英国萨塞克斯大学、英国舍布鲁克大学和英国多伦多大学荣誉博士学位。[8]英国绿色材料初创公司CuspAI顾问委员会成员。[12]

科研成就

科研综述

杰弗里·辛顿通过对神经网络模型的研究彻底改变了人工智能领域。他在反向传播、玻尔兹曼机、分布式表示和延时神经网络等领域的新颖见解和关键发现为人工智能研究做出了重大贡献。在1986年,辛顿及其合作者发表了两篇具有重大意义的论文,其中推广了被称为“反向传播”的算法。该算法通过神经元反向传播网络预测产生的误差测量,这一过程从直接连接至输出的神经元开始。这种方法使得那些包含中间“隐藏”神经元的网络,能够在输入层和输出层之间有效学习,从而突破了Minsky和Papert先前指出的局限性。这种反向传播算法支撑着几乎所有的神经网络,从复杂的计算机视觉系统到大型语言模型,都广泛应用了该算法。[3]

学术论文

截至2024年,杰弗里·辛顿已发布640篇论文,部分如下:

题目作者时间
A Simple Framework for Contrastive Learning of Visual RepresentationsTing Chen,Simon Kornblith,Mohammad Norouzi,Geoffrey Hinton2020
When Does Label Smoothing HelpRafael Muller,Simon Kornblith,Geoffrey Hinton2019
Backpropagation and the BrainTimothy P. Lillicrap,Adam Santoro,Luke Marris,Colin J. Akerman,Geoffrey Hinton2020
Lookahead Optimizer: k steps forward, 1 step backMichael R. Zhang,James Lucas,Geoffrey Hinton,Jimmy Ba2019
Similarity of Neural Network Representations RevisitedSimon Kornblith,Mohammad Norouzi,Honglak Lee,Geoffrey Hinton2019
How to Represent Part-Whole Hierarchies in a Neural NetworkGeoffrey Hinton2023
NASA: Neural Articulated Shape ApproximationBoyang Deng,J. P. Lewis,Timothy Jeruzalski,Gerard Pons-Moll,Geoffrey Hinton,Mohammad Norouzi,Andrea Tagliasacchi2020
Regularizing Neural Networks by Penalizing Confident Output DistributionsGabriel Pereyra,George Tucker,Jan Chorowski,Łukasz Kaiser,Geoffrey Hinton2017

参考资料:[13]

人才培养

截止2020年,杰弗里·辛顿共指导了22名硕士研究生和37名博士研究生。[6]

家世背景

杰弗里·辛顿出身知识分子家庭,他的曾祖父是数学家查尔斯·辛顿,创造了“四维空间”一词并普及了高维概念。杰弗里·辛顿的父亲霍华德·辛顿是一位杰出的昆虫学家,他的三个兄弟姐妹都从事学术工作。他的家族中还有多名数学家,其中包括玛丽·埃弗里斯特·布尔和她的丈夫乔治·布尔,他们的逻辑代数(称为布尔逻辑)成为了现代计算的基础。其他著名的亲戚还包括曾参与曼哈顿计划琼·辛顿等。[3][4][5][8][9][10][11]

家庭生活

杰弗里·辛顿有过三段婚姻,第一任妻子叫安妮,两人离婚后仍保持着友好的关系。辛顿的第二任妻子罗莎林和第三任妻子杰基分别于1994年和2018年死于癌症。此后,辛顿与退休社会学家罗斯玛丽·加特纳共同生活,但两人并未结婚。辛顿曾在20世纪90年代收养了两个孩子。[14][15]

生活中的辛顿
生活中的辛顿

人物观点

警告AI风险

2023年10月,杰弗里·辛顿在接受《60 分钟》的采访时警告说,人工智能存在危险,希望政府和企业仔细考虑如何安全地推进这项技术。辛顿说:“我认为在五年内,AI的推理能力可能会超过我们。我认为我们正在进入一个前所未有的时期,我们面对的东西比我们更聪明。我们正在进入一个充满不确定性的时期,我们要处理一些从未做过的事情。通常第一次处理一些全新的事情,你会做错,而我们不能负担得起这些事情出错。”[16]

反对AI用于军事

2024年5月,杰弗里·辛顿接受BBC采访时表达了对人工智能应用于军事领域的担忧,他说:“我猜,从现在起5到20年后,我们有一半的概率会面临人工智能给人类带来“灭绝级威胁”,因为他们可能“创造了一种比生物智能更好的智能形式,这让我们非常担忧。我最担心的是,这些人工智能可以自主做出杀人的决定。”[17]

AI在三十年内灭绝人类概率达10%到20%

2024年12月,杰弗里·辛顿表示,AI在未来三十年内导致人类灭亡的概率有10%到20%,并警告该技术的变化速度“比预期快得多”。辛顿表示,与高度强大的人工智能系统的智慧相比,人类就像是学步的儿童。“我喜欢这样想:想象一下你和一个三岁的小孩。我们将成为三岁的小孩。”[18]

人物评价

杰弗里·辛顿长期以来一直被认为是其研究领域的领军人物。[3]美国计算机协会评)

杰弗里·辛顿是一位受人尊敬的研究者,他是神经网络的先驱。[19]麻省理工学院斯隆管理学院评)

获得荣誉

honorIEEE 信号处理协会高级奖
time1990
honorIEEE 神经网络先驱奖
time1992
honorITAC/NSERC 学术优秀奖
time1998
honorIJCAI 研究卓越奖
time2005
honorKillam 工程奖
time2012
honorIEEE Frank Rosenblatt 奖章
time2014
honorIEEE/RSE 詹姆斯·克拉克·麦克斯韦金奖
time2016
honorNEC C&C 奖
time2016
honorBBVA 基金会知识前沿奖
time2017
honor加拿大同伴勋章
time2018
time2018

参考资料:[3][10]

参考资料 19

  1. Geoffrey Hinton: The story of the British 'Godfather of AI' - who's not sat down since 2005 — Sky News
  2. Geoffrey Hinton: "Stiamo perdendo il controllo sull'Intelligenza Artificiale" — la Repubblica
  3. Geoffrey E Hinton — acm
  4. Geoffrey Hinton — britannica
  5. The Nobel Prize in Physics 2024 — nobelprize
  6. Curriculum Vitae Geoffrey E. Hinton — 多伦多大学
  7. Geoffrey Hinton Emeritus Professor, University of Toronto — time
  8. Geoffrey E. Hinton's Biographical Sketch — 多伦多大学
  9. 2018年图灵奖发布 三位人工智能先驱获奖 — 新浪财经
  10. 2024诺贝尔物理学奖揭晓 — 今日头条
  11. Geoffrey E. Hinton — 美国国家科学院
  12. 人工智能先驱杰弗里·辛顿将出任绿色材料初创公司CuspAI顾问 — 界面新闻
  13. Geoffrey Hinton — aminer
  14. How a reporter prepped to understand A.I. and the man who helped invent it — nieman
  15. Rage Against the Machine — torontolife
  16. “人工智能教父”Geoffrey Hinton再次警告:AI可能会取代人类 — IT之家-今日头条
  17. ‘Godfather of AI’ Geoffrey Hinton: “Very worried about AI taking lots of…” — timesofindia
  18. AI“教父”辛顿:AI在三十年内灭绝人类概率达10%到20%;科学家利用现有光缆实现量子隐形传态丨全球科技早参 — 百家号
  19. Why neural net pioneer Geoffrey Hinton is sounding the alarm on AI — mitsloan
广告位:底部(ad-bottom)—— 请到中台「公共区块」编辑此内容