今天,2016年4月30日,是信息论鼻祖克劳德·艾尔伍德·香农博士100岁冥寿。
Claude Elwood Shannon
(1916年4月30日-2001年2月26日)
克劳德·香农,美国数学家、电子工程师和密码学家,被誉为信息论的创始人,也被认为是数字计算机理论和数字电路设计理论的创始人。
香农出生于密歇根州的Petoskey。父亲曾创业经商,也担任过审核遗嘱的法官。母亲是职业是语言学教师,曾长期担任密歇根州Gaylord高中的校长。香农人生的前16年都是在Gaylord度过的,他在那儿接受了公立学校教育,并于1932年从Gaylord高中毕业。香农对机械和电气电子表现出了极大爱好。他最优秀的学科就是科学和数学,并在家中制作了模型飞机、无线电控制的模型船和无线电报系统。香农孩提时期仰慕的英雄是托马斯·爱迪生,后来他才知道自己是托马斯·爱迪生的远房亲戚。
1932香农进入密歇根大学学习,在大学的一门课程中接触到了乔治·布尔的理论。1936年大学毕业时,香农获得了两个学士学位:电子工程学士和数学学士。不久,香农进入麻省理工学院开始研究生学习,参与了万尼瓦尔·布什的微分分析机(Differential Analyzer)的相关工作。在1937年硕士论文的基础上,香农在1938年发行的Transactions of the American Institute of Electrical Engineers上发表了著名论文“A Symbolic Analysis of Relay and Switching Circuits”。由于这篇论文,香农于1940年被授予美国Alfred Noble协会美国工程师奖。哈佛大学的哈沃德·加德纳称香农的硕士论文“可能是本世纪最重要、最著名的硕士学位论文”。
在这篇论文中,香农证明了布尔代数和二进制算术可以简化当时在电话交换系统中广泛应用的机电继电器的设计。然后,香农扩展了这个概念,证明了基于机电继电器的电路能用于模拟和解决布尔代数问题,并于1940年获得麻省理工学院博士学位。
1940年,香农成为普林斯顿高等研究院的研究员。在那里香农有很多机会与当时有影响力的科学家和数学家交流,比如阿尔伯特·爱因斯坦、赫尔曼·外尔和约翰·冯·诺伊曼,现代信息论的思想逐渐在他脑海中成型。
二战期间,香农加入贝尔实验室,香农有机会和英国数学家和密码学家艾伦·图灵合作。研究火力控制系统和密码学,相关课题直属国防研究委员会领导。香农在火力控制系统研究中已经发现了后来成为信息论的基本概念和框架体系。香农为军事领域的密码分析、密码破译和保密通信做出了很大贡献。
香农发明的数字计算机训练机
1948年,香农发表了划时代的论文——通信的数学原理,奠定了现代信息论的基础。
1951年,香农写了"Prediction and Entropy of Printed English",说明信息基础理论能够应用于自然语言和计算机语言,计算了英语这门语言的熵,从而为从统计的角度分析语言打下了基础。
1956年,香农返回MIT。1961年获密歇根大学荣誉博士。
来源: 维基百科