克劳德·艾尔伍德·香农

信息论的创始人,美国数学家

克劳德·艾尔伍德·香农

克劳德·艾尔伍德·香农(英文名:Claude Elwood Shannon,以下简称香农)(1916年4月30日—2001年2月24日)是信息论的创始人,美国著名数学家、发明家、密码学家。[0]1936年,香农同时获得密歇根大学数学学士学位和电子工程学士学位;1940年,他在麻省理工学院获得电气工程硕士学位和数学博士学位。[0][2]他的硕士论文《A Symbolic Analysis of Relay and Switching Circuits(继电器和开关电路的符号分析)》科学、严谨地论述了如何使用布尔代数对继电器电路进行分析和合成,奠定了数字电路的理论基础,被誉为“本世纪最重要、最著名的一篇硕士论文”。[3]香农因这一成果获得了美国工程师学会颁发的Alfred Noble奖。同年至1941年,香农任普林斯顿高等研究院研究员。[4]1941年—1972年,香农任职于贝尔实验室。[2]1948年,香农在7月和10月的Bell System Technical Journal连载发表了影响深远的论文《A Mathematical Theory of Communication》,这标志着信息论正式诞生。[3]1958年—1978年香农任麻省理工学院Donnor科学教授。[1]1973年,在IEEE信息论国际研讨会上香农获颁以其名字命名的香农奖。[0]1978年,香农退休。[2]2001年2月24日,香农在美国马萨诸塞州辞世,享年84岁。[5]

克劳德·艾尔伍德·香农(英文名:Claude Elwood Shannon,以下简称香农)(1916年4月30日—2001年2月24日)是信息论的创始人,美国著名数学家、发明家、密码学家。[1]

1936年,香农同时获得密歇根大学数学学士学位和电子工程学士学位;1940年,他在麻省理工学院获得电气工程硕士学位和数学博士学位。[1][3]他的硕士论文《A Symbolic Analysis of Relay and Switching Circuits(继电器和开关电路的符号分析)》科学、严谨地论述了如何使用布尔代数对继电器电路进行分析和合成,奠定了数字电路的理论基础,被誉为“本世纪最重要、最著名的一篇硕士论文”。[4]香农因这一成果获得了美国工程师学会颁发的Alfred Noble奖。同年至1941年,香农任普林斯顿高等研究院研究员。[5]1941年—1972年,香农任职于贝尔实验室。[3]1948年,香农在7月和10月的Bell System Technical Journal连载发表了影响深远的论文《A Mathematical Theory of Communication》,这标志着信息论正式诞生。[4]1958年—1978年香农任麻省理工学院Donnor科学教授。[2]1973年,在IEEE信息论国际研讨会上香农获颁以其名字命名的香农奖。[1]1978年,香农退休。[3]2001年2月24日,香农在美国马萨诸塞州辞世,享年84岁。[6]

香农是美国国家工程院院士、美国国家科学院院士、美国艺术与科学院院士,生前是麻省理工学院名誉教授。[6][7]香农曾获得莫里斯(Morris)奖、斯图尔特·巴兰丁(Stuart Ballantine)奖章、凯利奖(Kelly Prize) 、美国国家科学奖章、IEEE的荣誉奖章、基础科学京都奖和多所大学的荣誉博士。[6][7]香农的主要研究领域是通信和信息论,他提出了信息熵的概念,为信息论和数字通信奠定了基础,被称为“信息论之父”。[1][8]

早期经历

香农于1916年4月30日出生于美国密歇根州佩托斯基(Petoskey)。香农从小在一个名叫盖洛德(Gaylord)的小镇生活。在8岁的时候,他就辅导他姐姐做高等数学作业。后来,他姐姐大学毕业,成为了数学教授。除了数学之外,小香农特别喜欢搞发明创造,其中就包括电报机电动船,以及各种机械动物。[1]

教育经历

1932年香农进入密歇根大学,开始接触乔治·布尔(GeorgeBoole,英国数学家)的理论。[4]1936年,20岁的香农从密歇根大学本科毕业,获得了数学和电子工程双学位。随后,他进入麻省理工学院继续深造。[1]1938年香农在麻省理工学院获得电气工程硕士学位。[4]1940年,香农因这一成果获得了美国工程师学会颁发的AlfredNoble奖。[4]同年,香农在麻省理工学院获得数学博士学位后进入普林斯顿高等研究院工作,期间开始思考信息论与有效通信系统的问题。[4]

职业生涯

1941年香农以数学研究员的身份进入新泽西州的AT&T贝尔电话公司,并在贝尔实验室工作到1972年,从24岁到55岁,整整31年。[3]1943年,英国著名数学家、密码学家阿兰・图灵访问贝尔实验室,香农和图灵讨论了人造思维机器(也就是后来的I人工智能)。[9]

1948年,香农发表了影响深远的论文《A Mathematical Theory of Communication》这篇论文成了信息论正式诞生的里程碑。[4]1949年,香农发表了另一篇论文《Communication in the Presence of Noise》解决了信道容量、信源统计特性、信源编码、信道编码等一系列基本技术问题。[4]1952年,香农推出了“会走迷宫的老鼠”——特修斯(Theseus)[9]1956年香农担任MIT的访问教授,1958年成为正式教授。[3]1961年,香农和同事索普做出一个香烟盒大小的小型计算机,小盒子藏在口袋里,用大脚趾控制藏在鞋子里的开关。[9]1965年,香农带着这个机器跑去挑战当时的世界冠军Mikhail Botvinnik。1973年,在以色列阿什凯隆召开的信息论国际研讨会上,IEEE设立了香农奖,并把这一奖项授予香农本人。这种自己领自己名字命名的奖的做法,后来被人戏称为“香农套路”。[9]

退休生活

1978年,香农退休。[3]1985年,香农参加了在英格兰布莱顿举行的“国际信息理论研讨会。[9]香农当年还是投资大师、炒股高手。[9]1986年8月11日,著名的《巴伦周刊》曾汇总了1026家共同基金的近期表现,香农排名第一。[9]20世纪80年代,香农的记忆力开始严重衰退,并开始表现出患上阿尔茨海默氏症的迹象。[10]到了晚年时期,香农对杂耍的热爱简直到了痴迷的地步。[9]2001年2月24日,香农因患阿尔茨海默氏症去世,享年84岁。[9]

奠定数字电路基础

在香农的硕士毕业论文中,他将开关电路、布尔逻辑代数、二进制计算这些学科知识关联起来,形成了今天所有数字电路设计最底层的数学原理。从此,通过布尔方程式按照一定步骤就可以设计出具有复杂逻辑关系的电路。半个多世纪前英国数学家乔治·布尔(George Boole,1815-1864)创建的布尔代数得到了实际应用,电子计算机的发展也因此有了数学和电路基础。[11]香农的硕士毕业论文被誉为20世纪最重要、最著名的一篇硕士论文。[11]

香农还制作了一只木制的、带有铜须的玩具老鼠。他把它叫作“特修斯”。“特修斯”的出现表明电子线路可以用二进制逻辑工作。“特修斯”虽然是由隐藏在它身体里的磁铁和马达驱动的,但掌管它记忆功能的存储器却不在它身上,而是由隐藏在迷宫各处的75个继电器组成的。香农进一步证明,这些简单的逻辑功能都可以通过电子线路的开/关来执行。这一发现意味着,从理论上说,任何复杂逻辑都可以分解成几个简单逻辑,然后由一套能表达或执行1/0(开/关)——或用逻辑学的术语说:真/假——的二进制装置来完成。[12]

开创信息论

1948年,32岁的香农在贝尔实验室内部科学刊物BELL SYSTEM TECHNICAL JOURNAL表论文《A Mathematical Theory of Communication》(《通信的数学理论》)提出了信息shāng的概念以及数学表达式,[1]推出了比特的概念(他将发明这个词的荣誉归功于自己的同事约翰·图基),将其称为“用于测量信息的单位”。[1]提出了著名的信道容量公式,即香农公式,后世几乎所有的现代通信理论都是基于香农公式展开的。[11]他提出用“熵”来描述信源内部的不确定性,给出了信息熵的计算公式,解决了信息的计量问题此外,香农对于信息冗余、信息编码、信息压缩、信息加密解密等信息科学领域的诸多基本概念也都给出了科学的解释。[11]这篇论文奠定了信息论的基础,标志一门新的学科──信息科学的诞生。[11]

建立密码学基础

香农在论文《保密系统的通信理论》中首次从信息论的角度讨论密码学,为对称加密体制建立了理论基础。[13]这篇论文开辟了用信息论来研究密码学的新思路,奠定了现代密码理论的基础。[1]这标志着现代密码学的诞生。[13]香农也凭此成为近代密码理论的奠基者和先驱。[1]

通信理论

1948年香农发表的《通信的数学理论》中在这篇论文中,香农给出了通信系统的基本模型,[1]提出了信道容量公式,即香农公式,[14]把通信理论的解释公式化,对如何有效地传输信息的问题进行了研究。这一理论被世界各国的通信工程师和数学家采用,并对其进行了详细的论述、扩展和完善,为数字通信技术的发展提供了理论工具。[15]香农公式对于后世最大的意义在于,几乎所有的现代通信理论都是基于这个公式展开的。[14]

发明

香农的发明层出不穷。包括一个火焰发射喇叭,一个变戏法的机器人,一组独轮车队,一台用罗马数字操作的计算机器,以及一个帮助美国人在英国公路上靠左侧行驶的设计图。[12]他还做过一个能自动寻路的机械小鼠,名为特修斯(Theseus)。[16]

主要论文

题目发表信息内容简介
《ASymbolicAnalysisofRelayandSwitchingCircuits》(继电器与开关电路的符号分析1938年,香农在MIT获得电气工程硕士学位的硕士学位论文该论文把布尔代数的“真”与“假”和电路系统的“开”与“关”对应起来,并用1和0表示。用布尔代数分析并优化开关电路,这就奠定了数字电路的理论基础[3]
《An Algebra for Theoretical Genetics》
(理论遗传学的代数学)
1940年香农在MIT的数学博士学位论文[3]用线性代数描述不同遗传性状在遗传中的可能性。以此,就能用线性代数来预测性状是如何代代相传的[16]
《Mathematical theory of the differential analyzer》
(微分分析器的数学理论)[3]
1941年发表他写道:“大多数结果通过证明的定理形式给出。最重要的是处理了一些条件,有些条件可以生成一个或多个变量的函数,有些条件可使常微分方程得到解。还给出了一些注意事项,给出求函数的近似值(不能产生精确值)、求调整率的近似值以及自动控制速率的方法。”[3]
关于串并联网络的双终端数的论文1942年香农与John Riordan一起发表这篇论文扩展了麦克马洪(Percy A. MacMahon,1854-1929)1892年在Electrician上发表的论文理论[3]

《A Mathematical Theory of Communication 》
(通信的数学原理)
1948年在7月和10月的Bell System Technical Journal发表。1963年由伊利诺伊大学出版社再版[10]

文章阐明了通信的基本问题,给出了通信系统的模型,[4]论述了信息的定义,怎样数量化信息,怎样更好地对信息进行编码。在这些研究中,概率理论是香农使用的重要工具。香农同时提出了信息熵的概念,用于衡量消息的不确定性[3]
这篇论文成了信息论正式诞生的标志[4]
《Communication Theory of Secrecy Systems》
(保密系统的通信理论)
1949年发表这篇论文标志着现代密码学的诞生。在这篇论文中,香农首次从信息论的角度讨论密码学,为对称加密体制建立了理论基础。它的意义是使保密通信由艺术变成科学[13]
Communication in the Presence of Noise1949年发表解决了信道容量、信源统计特性、信源编码、信道编码等一系列基本技术问题[4]
Programming a computer for Playing Chess1949年发表该论文是人工智能领域的开创性工作之一[4]

人才培养

香农的学生伯特·萨瑟兰年轻时在美国伦勒斯理工大学获得了电气工程学士学位,之后去MIT读完了硕士和博士。[17]计算机科学蓬勃发展,伯特·萨瑟兰成为了许多知名实验室的主管,也领导开发了其中的知名项目,不少都是世界首创。[17]

香农的学生罗伯特·加拉格尔1962年提出LDPC码,此前被选为5G数据信道编码方案。[18]

家庭背景

香农在盖洛德(Gaylord)小镇长大。[6][7]香农的父亲是这个小镇的法官,名字叫克劳德·艾尔伍德·香农(和他的名字一样)。香农的母亲,是小镇的中学校长,名叫梅布尔·沃尔夫·香农(MabelWolfShannon)。[1]香农的祖父是一位农场主兼发明家,发明过洗衣机和很多农用机械。[1]值得一提的是,香农还有一个远房亲戚,也很喜欢搞发明。这位亲戚的名字,叫爱迪生[1]

妻子

香农与玛丽(Mary Elizabeth Moore)1949年3月27日结婚,他们是在贝尔实验室相识的,玛丽当时是数据分析员。[19]

子女

香农共有四个孩子:三个儿子罗伯特(Robert)、詹姆斯(James)、安德鲁莫瑞(AndrewMoore)和一个女儿MargaritaCatherine。后来身边还有两个可爱的孙女。[19]

日常生活

人们描述香农的生活,白天他总是关起门来工作,晚上则骑着他的独轮车来到贝尔实验室。他的同事D.Slepian写到:“我们大家都带着午饭来上班,饭后在黑板上玩玩数学游戏,但克劳德很少过来。他总是关起门来工作。但是,如果你要找他,他会非常耐心地帮助你。他能立刻抓住问题的本质。他真是一位天才,在我认识的人中,我只对他一人使用这个词。”[3]

随着时光的推移,过度的奉承纷至沓来,香农被蒙上了一层神秘的面纱,变得沉默寡言。其实香农爱说爱笑,喜欢制造独轮车,迷恋杂耍,但他为人十分谦虚。[20]

到了晚年时期,香农对杂耍的热爱简直到了痴迷的地步。他花了很多时间刻苦练习,不断提高杂耍水平。他甚至还拥有一张杂耍学博士证书,视为至宝。[21]

除了杂耍之外,他还热衷于制造玩具。他建造了火焰喷射喇叭、火箭驱动飞盘、自动下棋机器人等各种奇怪的玩具。[21]

设香农奖

鉴于香农的卓越贡献,IEEE(美国电气与电子工程师学会)特别以他的名字设立了通信理论领域最高奖“香农奖”(thelaudeE.ShannonAward)。[11]该奖也被称为“信息领域的诺贝尔奖”。[4]而首届获奖者正是香农本人。在贝尔实验室的大堂,有两尊半身塑像,一个是亚历山大·贝尔,另一个就是克劳德·香农。[11]

定理命名

人们将信道容量公式称为香农公式,关于无失真信源编码、有噪信道编码、有失真信源编码的理论论述并称为香农三大定律香农三大定律奠定了信息传输和存储的理论基础,给信息技术研究指明了努力方向和极限边界。[11]

香农
香农

社会任职

香农是美国科学院院士、美国工程院院士、英国皇家学会会员、美国哲学学会会员。[22]

人物评价

香农独自创立了比较完整的信息学科理论,即信息论,建立起信息时代世界观方法论。信息科学后来发展出很多学科分支与重要技术,都以信息论为理论基础。令人称奇的是,香农的信息论一经问世,便已形成了成熟完整的理论体系,并且实践证明了它的正确性,显示出香农的超人智慧。[11]清华大学科技博物馆评)

香农的一生戳穿了两个假象:其一是,在创造知 识的过程中,理论必须高于实践;其二是,专干“脏 活累活”的工程师们永远无法创造丰富的理论,那要 历经几代科学家的扩展、修正和深化才能形成。香农掀起了数字革命,理应得到赞誉。[23](G.Pascal Zachary 评)

”在我看来,两三百年之后,当人们回过头来看我们的时候,他们可能不会记得谁曾是美国的总统。他们也不会记得谁曾是影星或摇滚歌星。但是仍然会知晓香农的名字。学校里仍然会教授信息论。“[21](著名学者理查德・布拉胡特(Richard Blahut)教授评)

命名讲座

为了纪念香农,加利福尼亚大学圣迭戈分校每年选出一位杰出的信息理论家在香农的生日(4月30日)或前后开展纪念讲座。[24]

发行邮票

2016年,马其顿共和国(The Republic of Macedonia)发行了纪念香农诞辰百年相关的邮票。[25]

树立雕像

为了纪念香农,共树立雕像六座,分别坐落于密歇根州佩托斯基的盖洛德(Gaylord)小镇、密歇根大学电气工程与计算机科学系大楼前、贝尔实验室、新泽西州佛罗里达公园ATT香农实验室、麻省理工学院信息与决策系统实验室、加利福尼亚大学圣迭戈分校。[26]

诞辰百年纪念

2016年,西安电子科技大学上海科技大学信息科学与技术学院上海交通大学计算机科学与工程系举行纪念香农百年诞辰座谈会和学术研讨会。[27][28][29]

2016年9月16日,来自世界各地多所大学以及科研机构的科研人员齐聚,在香农百年研讨会上庆祝密歇根大学校友克劳德·艾尔伍德·香农诞辰百年。[25]

获得荣誉

honor美国工程师奖
名称美国Alfred Noble协会
time1940
type
honorMemorial奖章
名称Morris Liebmann 无线电工程师协会
time1949
type
honor首席科学家
名称耶鲁大学
time1954
honorStuart Ballantine弗兰克林协会奖章
名称Stuart Ballantine弗兰克林协会
time1955
type
honor研究合作奖
time1956
type
honor荣誉博士
名称密歇根大学
time1961
honor荣誉奖章
名称莱斯大学
time1962
honor荣誉博士
名称普林斯顿大学
time1962
honorMarvin J. Kelly Award
time1962
type
honor荣誉博士
名称爱丁堡大学
time1964
honor荣誉博士
名称 匹兹堡大学
time1964
honor荣誉奖章
名称电子电气工程师协会
time1966
type
名称 由前总统Lyndon B. 约翰逊颁发
time1966
type
honorGolden Plate Award
time1967
type
honor荣誉博士
名称美国西北大学
time1970
honorHarvey Prize
名称the Technion of Haifa 以色列
time1972
type
honor荣誉博士
名称牛津大学
time1978
honorJoseph Jacquard奖
time1978
type
honorHarold Pender奖
time1978
type
honor荣誉博士
名称东英格兰大学
time1982
honor荣誉博士
名称卡内基梅隆大学
time1984
honor金奖
名称美国声频技术协会
time1985
type
honorKyoto Prize
time1985
type
honor荣誉博士
名称塔夫斯大学
time1987
honor荣誉博士
名称宾西法尼亚大学
time1991
honorEduard Rhein Prize
time1991
type

以上表格信息来源[7]

参考资料 29

  1. 祖师爷香农,到底有多神? — 百家号
  2. https://news.mit.edu/2001/shannon
  3. 【电子科技发展史上的巨人】香农 — 电子科技博物馆
  4. 秋分 | 信息论之父 — 今日头条
  5. 香农的贡献及其对后世的影响——香农百年诞辰纪念 — 中国计算机学会
  6. MIT Professor Claude Shannon dies; was founder of digital communications — 麻省理工学院新闻网
  7. 计算机传奇人物系列之克劳德·艾尔伍德·香农(Claude Elwood Shannon) — 中科院计算所
  8. 世界信息论由他开启,中国的信息论研究在西电启程 — 今日头条
  9. 祖师爷香农,到底有多神? — 今日头条
  10. 信息论之父克劳德·香农:刷新你对信息的想象 — 世界科学
  11. 读展|香农时代话香农——从展览“光电之迹”谈香农的划时代贡献 — 清华大学科学博物馆
  12. 克劳德·香农将世界数字化了 — 今日头条
  13. 量子时代要如何拯救密码? — 今日头条
  14. 香农公式与5G — 今日头条
  15. 通信技术的前世今生 — 今日头条
  16. 用一篇论文建立一个学科,除了爱因斯坦还有他! — 腾讯网
  17. 又一位先驱陨落!施乐PARC实验室科学家伯特·萨瑟兰去世 — 今日头条
  18. 华为缘何致敬极化码之父? — 今日头条
  19. 参考 19
  20. 参考 20
  21. iCloud — IT 之家
  22. 参考 22
  23. 参考 23
  24. Shannon Memorial Lecture & Fellowship — cmrr.ucsd.edu
  25. U-M Shannon Centennial Symposium Celebrates the father of information theory — cse.engin.umich.edu
  26. Claude E. Shannon Statue Dedication at the University of Michigan — ece.engin.umich.edu
  27. 【纪念香农】西电举行纪念香农百年诞辰座谈会 — 西安电子科技大学综合信息服务网
  28. 信息学院举办纪念香农诞辰一百周年学术研讨会 — 上海科技大学信息科学与技术学院
  29. 2016香农研讨会顺利召开 — www.cs.sjtu.edu.cn
广告位:底部(ad-bottom)—— 请到中台「公共区块」编辑此内容