克劳德·香农

克劳德·夏农
ClaudeShannon MFO3807.jpg
出生 1916年4月30日
 美国密西根州佩托斯基
逝世 2001年2月24日（84岁）
 美国麻省梅得福镇
国籍  美国
母校 密西根大学
麻省理工学院
知名于 资讯论
奖项 IEEE荣誉奖章，美国国家科学奖章，京都奖
科学生涯
研究领域 布尔代数、物理学、数学、资讯论、人工智慧
机构 贝尔实验室
麻省理工学院

克劳德·艾尔伍德·夏农（英语：Claude Elwood Shannon，1916年4月30日－2001年2月24日），美国数学家、电子工程师和密码学家，被誉为资讯理论的创始人。夏农是密西根大学学士，麻省理工学院博士。

1948年，夏农发表了划时代的论文——通讯的数学原理，奠定了现代资讯理论的基础。不仅如此，夏农还被认为是数位计算机理论和数位电路设计理论的创始人。1937年，21岁的夏农是麻省理工学院的硕士研究生，他在其硕士论文中提出，将布尔代数应用于电子领域，能够构建并解决任何逻辑和数值关系，被誉为有史以来最具水平的硕士论文之一[3]。二战期间，夏农为军事领域的密分码析——密码破译和保密通讯——做出了很大贡献。

生平

夏农出生于密西根州的Petoskey。父亲克劳德（1862–1934）与他的姓名完全相同，是新泽西州早期移民的后裔，曾自主创业经商，也担任过审核遗嘱的法官。母亲玛贝尔·沃夫·夏农（1890–1945）是德国移民的女儿，职业是语言学教师，曾长期担任密西根州Gaylord高中的校长。夏农人生的前16年都是在Gaylord度过的，他在那儿接受了公立学校教育，并于1932年从Gaylord高中毕业。夏农对机械和电气电子表现出了极大爱好。他最优秀的学科就是科学和数学，并在家中制作了模型飞机、无线电控制的模型船和一个可与半英里内的朋友家联系的无线电报系统。大一点的时候，他做过西联汇款的投递员。


布尔理论和二战前研究

1932夏农进入密西根大学学习，在大学的一门课程中接触到了乔治·布尔的理论。1936年大学毕业时，夏农获得了两个学士学位：电子工程学士和数学学士。不久，夏农进入麻省理工学院开始研究生学习，参与了万尼瓦尔·布希的微分分析机（Differential Analyzer）的相关工作。微分分析机是一种类比计算机，是现代电脑的鼻祖。[4]

在研究微分分析机的自组织（ad hoc）电路时，夏农发现引入布尔理论的概念会带有很大的好处。在1937年硕士论文的基础上，夏农在1938年发行的Transactions of the American Institute of Electrical Engineers上发表了著名论文「A Symbolic Analysis of Relay and Switching Circuits」[5]。由于这篇论文，夏农于1940年被授予美国Alfred Noble协会美国工程师奖。哈佛大学的哈沃德·加德纳称夏农的硕士论文「可能是本世纪最重要、最著名的硕士学位论文」。

在这篇论文中，夏农证明了布尔代数和二进位算术可以简化当时在电话交换系统中广泛应用的机电继电器的设计。然后，夏农扩展了这个概念，证明了基于机电继电器的电路能用于类比和解决布尔代数问题。

用电子开关类比布尔逻辑运算是现代电子计算机的基本思路，夏农的工作成为数位电路设计的理论基石，完全取代了之前盛行的ad hoc方法。Vannevar Bush建议夏农将类似的数学方法应用于孟德尔遗传学，夏农接受了这个建议，写出了An Algebra for Theoretical Genetics。凭此论文，夏农于1940年获得麻省理工学院博士学位。

1940年，夏农成为普林斯顿高等研究院的研究员。在那里夏农有很多机会与当时有影响力的科学家和数学家交流，比如阿尔伯特·爱因斯坦、赫尔曼·外尔和约翰·冯·诺伊曼，现代资讯理论的思想逐渐在他脑海中成型。

二战期间的研究

二战期间，夏农加入贝尔实验室，研究火力控制系统和密码学，相关课题直属国防研究委员会领导。

在贝尔实验室，夏农遇到了担任数值分析员的Betty。两人于1949年结婚。

1943年，夏农有机会和英国数学家和密码学家艾伦·图灵合作。图灵被派到华盛顿和美国海军交流破译德国的北大西洋潜艇舰队密码的成果，并在贝尔实验室待了一段时间。夏农和图灵在一个自助餐厅见面。图灵向夏农介绍了现在被称为「通用图灵机」[6][7]的概念。夏农对此很感兴趣，因为图灵机的概念和夏农自己的很多想法相吻合。

1945年，战争进入尾声，国防研究委员会NDRC的使命即将结束。在正式解散之间，NDRC决定将重要研究成果整理成册，其中有一篇论文「火力控制系统的数据平滑和数据预测」是夏农和Ralph Beebe Blackman、Hendrik Wade Bode一起写的，它的思路和「通讯系统中将讯号和杂讯相分离」[8]是类似的，也就是说，夏农在火力控制系统研究中已经发现了后来成为资讯理论的基本概念和框架体系。

战时夏农在密码学领域的研究与通讯领域的关系更加密切。1945年，夏农向贝尔实验室提交了一份备忘录，题目是「密码学的一个数学理论」，之后在1949年以「保密系统的通讯理论」的标题在Bell System Technical Journal正式发表，包含了很多在「通讯的一个数学理论」出现的概念和数学公式。夏农说，战时对通讯理论和密码学的研究使他认识到「两者密不可分」。[9]

还是在贝尔实验室，夏农证明了一次性密钥（cryptographic one-time pad）是无法被破译的。夏农同时证明了一个无法被破译的密码系统的密钥必须有以下特征：完全随机；不能重复使用；保密；和明文一样长。[10]

战后的贡献

1948年，划时代的「通讯的一个数学理论」分成两部分，在7月和10月的Bell System Technical Journal发表。文章系统论述了资讯的定义，怎样数量化资讯，怎样更好地对资讯进行编码。在这些研究中，概率理论是夏农使用的重要工具。夏农同时提出了资讯熵的概念，用于衡量消息的不确定性。

1949年，夏农和Warren Weaver合著了「通讯的数学理论」，包含了夏农1948年的论文「通讯的一个数学理论」和Warren Weaver为非专业人士写的介绍通讯理论的内容。Warren Weaver指出，在资讯理论中"information"这个词不是指「你说了什么」，而是指「你能够说什么」，也就是说，资讯表示人们可有多少选择。之后，John Robinson Pierce在「Symbols, Signals, and Noise」这本书中也对夏农的概念作了通俗的介绍。

1951年，夏农写了"Prediction and Entropy of Printed English"，说明资讯基础理论能够应用于自然语言和计算机语言，计算了英语这门语言的熵，从而为从统计的角度分析语言打下了基础。而且，夏农认为如果把空格当作英语字母表上的第27个字母，能够降低提取英语处理的不确定性。

数位通讯的基础理论——抽样分析理论——的提出也有夏农的贡献。抽样分析理论将连续的类比讯号抽样成离散的数位讯号，为20世纪60年代之后数位通讯的兴起奠定了基础。

1956年，夏农返回MIT。

爱好和发明

除了学术研究，夏农爱好杂耍、骑独轮脚踏车和下棋。夏农发明了很多用于科学展览的设备，比如火箭动力飞行光碟、一个电动弹簧高跷和一个喷射小号。夏农的办公桌上放着一个他称之为「终极机器」的盒子，这是夏农众多好玩的发明之一，是根据人工智慧研究的先驱、数学家马文·闵斯基提出的想法而做出来的。这个盒子外表平淡无奇，只是在一侧有一个开关，弹一下开关，盒盖就会打开，一个机械手会伸出来；将开关复原，机械手就缩回盒子。夏农还做了一个设备能够复原魔方。

夏农还被认为和爱德华·索普一起发明了第一个佩戴式计算机[11]，这个佩戴式计算机用于提高轮盘赌的获胜机率。

获奖与荣誉

参见

参考文献

  1. ^ Ioan James. Claude Elwood Shannon 30 April 1916 — 24 February 2001. Biographical Memoirs of Fellows of the Royal Society. 2009-12-01, 55: 257–265 [2018-04-02]. ISSN 0080-4606. doi:10.1098/rsbm.2009.0015. （原始内容存档于2017-07-03） （英语）. 
  2. ^ Bell Labs website: "For example, Claude Shannon, the father of Information Theory, had a passion...". [2013-05-21]. （原始内容存档于2011-06-05）. 
  3. ^ Poundstone, William. Fortune's Formula : The Untold Story of the Scientific Betting System That Beat the Casinos and Wall Street. Hill & Wang. 2005. ISBN 978-0-8090-4599-0. 
  4. ^ Robert Price. Claude E. Shannon, an oral history. IEEE Global History Network. IEEE. 1982 [14 July 2011]. （原始内容存档于2012-10-10）. 
  5. ^ Claude Shannon, "A Symbolic Analysis of Relay and Switching Circuits," （页面存档备份，存于网际网路档案馆） unpublished MS Thesis, Massachusetts Institute of Technology, August 10, 1937.
  6. ^ Turing, A.M., On Computable Numbers, with an Application to the Entscheidungsproblem, Proceedings of the London Mathematical Society, 2 42, 1936, 42: 230–651937, doi:10.1112/plms/s2-42.1.230 
  7. ^ Turing, A.M., On Computable Numbers, with an Application to the Entscheidungsproblem: A correction, Proceedings of the London Mathematical Society, 2 43 (6), 1938, 43 (6): 544–61937, doi:10.1112/plms/s2-43.6.544 
  8. ^ David A. Mindell, Between Human and Machine: Feedback, Control, and Computing Before Cybernetics, (Baltimore: Johns Hopkins University Press), 2004, pp. 319-320. ISBN 978-0-8018-8057-5.
  9. ^ quoted in Kahn, The Codebreakers, p. 744.
  10. ^ Shannon, Claude (1949). "Communication Theory of Secrecy Systems". Bell System Technical Journal 28 (4): 656–715.
  11. ^ The Invention of the First Wearable Computer Online paper by Edward O. Thorp of Edward O. Thorp & Associates (PDF). [2012-11-05]. （原始内容存档 (PDF)于2008-05-28）. 
  • 克劳德·艾尔伍德·夏农：《通讯的数学理论》（A mathematical theory of communication）贝尔系统技术月刊l,27卷,379-423,623-656页, 1948年7月,10月
  • 克劳德·艾尔伍德·夏农和Warren Weaver:《通讯的数学理论》伊利诺伊大学出版社, Urbana,伊利诺伊,1949年. ISBN 978-0-252-72548-7

外部连结