第一章 从烽火狼烟到电磁波：人类一直在传递信息，却从未真正理解信息

如果要评选推动人类文明发展的几项核心能力，大多数人会想到火、农业、蒸汽机，或者数学。

但有一种能力，同样深刻地改变了世界，却常常被忽视——信息的传递。

纵观整个人类文明史，你会发现，文明的发展不仅是生产力不断提高的历史，也是信息传播效率不断提升的历史。

语言、文字、印刷术、电报、电话、互联网、人工智能……看似毫无关联，却都围绕着同一个主题：让信息传播得更快、更远、更准确。

然而，一个看似简单的问题，却直到20世纪中叶才被真正回答：

信息，究竟是什么？

文明的诞生，本质上是信息开始积累

在人类出现后的漫长岁月里，知识几乎只能依靠口口相传。

老人把狩猎经验告诉年轻人，父母把生存技能教给孩子，部落把历史编成歌谣。

这种传播方式最大的局限，是信息无法跨越时间和空间。

一个人去世，他掌握的大量知识也随之消失；一个部落迁徙，另一个部落可能永远不知道他们的经验。

文明难以积累，更难以快速发展。

直到文字诞生，这一切开始改变。

无论是两河流域的楔形文字、古埃及的象形文字，还是中国的甲骨文，人类第一次能够把思想记录下来，让信息跨越时间。

知识开始不断累积，文明也真正进入了加速发展的阶段。

随后，纸张和印刷术的出现，使信息传播成本急剧下降。

一本书可以复制成成千上万册，一项新的思想能够迅速传播到更广阔的地区。

可以说，每一次信息传播方式的革命，都会带来一次文明的飞跃。

古代通信：速度决定着国家的命运

信息不仅影响文化，也决定着战争与政治。

在古代，一个国家的疆域越大，对通信的需求就越迫切。

中国古代建立了覆盖全国的驿站系统。重要军情依靠快马接力，昼夜兼程地送往京城。

边境一旦发现敌情，烽火台便会燃起狼烟。一座烽火台接着一座烽火台，把警报迅速传向数百公里之外。

古波斯建立了横贯帝国的驿道网络，古罗马修建了四通八达的大道，保证军队和政令能够快速抵达各地。

这些方式虽然形式不同，却都在解决同一个问题：

怎样让信息跑得比人更快。

然而，无论是快马、信使还是烽火，它们都受到地理环境和天气的限制。

信息传播速度，始终无法突破人类自身的速度极限。

大航海时代：信息第一次成为全球性问题

15世纪以后，大航海时代开启。

航海家驶向未知海域，贸易路线跨越整个地球。

与此同时，一个新的问题出现了：

如何在茫茫大海上准确传递信息？

于是，旗语、灯光信号、炮声、钟声等各种通信方式相继出现。

每一面旗帜、每一次闪光，都代表着特定含义。

事实上，这已经是一种最原始的编码。

不同国家也逐渐形成了统一的信号规则，使来自不同地区的人能够理解同一条信息。

信息开始摆脱语言的限制，向标准化迈进。

虽然当时的人们并没有意识到，但他们已经迈出了信息科学的重要一步。

工业革命：人类第一次需要“实时通信”

真正改变通信历史的，是工业革命。

蒸汽机推动了铁路的发展，城市之间的联系越来越紧密。

过去，一封信可以几天后送达；而铁路时代，一次调度失误就可能导致两列火车相撞。

社会第一次需要一种几乎实时的信息传输方式。

1837年，美国画家兼发明家塞缪尔·莫尔斯发明了电报。

消息第一次不再依靠人或马，而是借助电流在导线上传播。

几秒钟，一条信息便可以跨越数百公里。

这是人类历史上第一次实现真正意义上的远距离即时通信。

更重要的是，莫尔斯发明了一套独特的编码系统——莫尔斯电码。

他把所有字母和数字，都转换成由长、短电脉冲组成的符号。

语言第一次被转换成可以由机器处理的信号。

这是现代数字通信最早的思想萌芽。

从电话到无线电：世界进入通信时代

1876年，亚历山大·格雷厄姆·贝尔发明电话。

人们不仅能够传递文字，还能够直接传递声音。

19世纪末，电磁理论的发展又催生了无线电通信。

此后，广播、电视、雷达、卫星通信相继问世。

20世纪上半叶，人类进入了通信技术高速发展的时代。

然而，通信技术越先进，工程师面临的问题也越复杂。

为什么电话总会受到噪声干扰？

为什么广播会出现杂音？

一条电话线究竟能够同时传输多少信息？

无线电频谱应该如何分配？

如何在有限的带宽中传输更多内容？

这些问题几乎困扰着所有通信工程师。

他们不断改进设备，却始终缺少一套统一的数学理论。

人们知道怎样制造更好的通信设备，却不知道通信是否存在理论极限。

整个通信行业，都在等待一场新的科学革命。

一个时代提出的问题，终将由一个时代回答

纵观科学史，每一门重要的数学理论，都不是凭空诞生的。

微积分诞生，是因为天文学和经典力学需要研究连续变化。

概率论诞生，是因为赌博、保险和统计需要研究随机现象。

线性代数迅速发展，则源于几何、物理和工程对高维计算的需求。

信息论也是如此。

它并不是某位天才偶然想到的新概念，而是整个通信时代共同提出的问题。

当电话网络越来越庞大，当无线电波覆盖整个世界，当信息开始以电信号的形式高速传播，人类终于不得不面对那个最根本的问题：

信息，究竟是什么？

谁能回答这个问题，谁就将重新定义整个通信时代。

1948年，一位年仅32岁的数学家兼电子工程师，给出了答案。

他的名字，叫克劳德·香农。

而一门改变世界的新学科，也由此诞生。

第二章 1948年前夜：为什么偏偏是香农创立了信息论？

1948年，《通信的数学理论》横空出世。

很多人把它看作一位天才灵光一现的成果。

但纵观科学史，几乎所有伟大的理论都不是偶然诞生的。

牛顿曾说："如果我看得更远，那是因为站在巨人的肩膀上。"

香农也是如此。

信息论的诞生，并不是因为1948年突然出现了一位天才，而是因为通信技术的发展、数学工具的成熟，以及工程实践的迫切需求，在这一刻汇聚到了一起。

工程走在前面，理论却迟迟没有出现

19世纪末到20世纪上半叶，是通信技术飞速发展的时代。

电报跨越了大陆，电话走进千家万户，无线电让声音能够跨越海洋，广播和电视开始改变大众传播方式。

第二次世界大战期间，雷达、密码通信和无线电网络又得到迅速发展。

整个世界正在以前所未有的速度连接起来。

然而，通信工程师始终面对几个无法回避的问题：

一条电话线究竟能够传输多少信息？

增加发射功率，是否就能无限提高通信质量？

面对噪声，怎样才能保证信息准确到达？

如果只有有限的带宽，怎样才能让更多用户同时通信？

这些问题看似属于工程技术，实际上却需要一种全新的数学理论来回答。

经验可以改进设备，却无法告诉人们通信有没有极限。

通信的发展，第一次走到了理论的前面。

数学已经准备好了

如果把时间再向前推一百年，你会发现，信息论能够诞生，还有一个重要原因——数学已经成熟了。

19世纪，概率论取得长足发展。

从雅各布·伯努利到皮埃尔-西蒙·拉普拉斯，再到卡尔·弗里德里希·高斯，数学家们逐渐建立起研究随机现象的方法。

他们证明，不确定性并非无法研究，而是可以用概率进行描述。

与此同时，约瑟夫·傅里叶提出傅里叶分析，证明任何复杂信号都可以分解为不同频率的正弦波。

这一思想后来成为现代数字通信、音频处理和图像压缩的重要基础。

在线性代数的发展中，矩阵和向量逐渐成为描述复杂系统的工具；统计学不断完善，对随机噪声的分析越来越深入。

更有意思的是，19世纪热力学的发展，还诞生了一个后来影响深远的概念——熵。

德国物理学家鲁道夫·克劳修斯提出熵，用来衡量系统的无序程度；后来，路德维希·玻尔兹曼又从统计物理角度赋予熵更加深刻的含义。

当时，没有人想到，这个原本属于热力学的概念，会在几十年后出现在通信理论中。

换句话说，到20世纪40年代，信息论所需要的数学工具几乎都已经存在。

唯一缺少的，是一个能够把它们统一起来的人。

贝尔实验室：孕育信息论的摇篮

这个人，就是克劳德·香农。

香农出生于1916年，从小喜欢动手制作各种机械装置。

大学期间，他同时学习数学和电子工程。

这种看似特殊的经历，却成为他最大的优势。

纯数学家擅长建立理论，却未必了解通信工程中的真实问题；工程师熟悉设备，却往往缺乏抽象能力。

香农恰好兼具两者。

毕业后，他进入当时世界通信技术最先进的研究机构——贝尔实验室。

这里聚集着通信领域最优秀的科学家和工程师。

每天，他们都在研究电话网络、交换系统、信号传输和噪声问题。

香农并没有把目光局限于某一种设备。

他意识到，电话、电报、无线电虽然形式不同，但本质上都在做同一件事：

把信息从一个地方传送到另一个地方。

真正需要研究的，不是电话，也不是无线电，而是信息本身。

一篇论文，重新定义了“信息”

1948年，香农发表《通信的数学理论》。

论文开篇并没有讨论电话，也没有讨论无线电，而是直接建立了一套全新的数学框架。

在这套框架中，信息第一次被当作一种可以度量、可以计算、可以编码的对象。

香农提出了信息量、比特、信息熵等概念，并证明了一个震撼世界的结论：

任何通信系统，都存在一个理论上的容量极限。

只要传输速率低于这个极限，通过合理的编码，即使存在噪声，也能够实现几乎无差错的通信。

如果超过这个极限，无论设备多么先进，都无法保证可靠传输。

这就是后来著名的香农信道容量定理。

它不仅回答了通信工程几十年来悬而未决的问题，也为整个数字时代奠定了理论基础。

从这一刻起，通信工程不再只是经验和技巧的积累，而真正成为建立在数学基础上的现代科学。

更重要的是，人类第一次拥有了一种能够精确描述信息的语言。

而信息论，也由此正式诞生。

第三章 从互联网到ChatGPT：信息论如何塑造数字文明

1948年，香农提出信息论时，世界上还没有互联网，没有个人电脑，也没有智能手机。

即使是最乐观的人，也很难想象几十年后，人类每天会产生数百亿GB的数据，数十亿人能够随时随地进行高清视频通话，人工智能还能与人自然对话。

然而，今天回过头来看，几乎所有数字技术的发展，都能看到信息论的影子。

因为它回答的不是某一种通信技术的问题，而是一个更根本的问题：

信息，如何被高效、可靠地传输和处理。

第一场革命：让通信逼近理论极限

信息论首先改变的，是通信工程。

在香农之前，人们普遍认为，提高通信质量最直接的方法，就是增加发射功率、扩大带宽、改进设备。

香农却证明，这些资源都是有限的。

真正重要的，不是无限增加资源，而是在有限资源下，把通信效率做到最高。

他提出的信道容量概念，第一次给通信系统设定了理论极限。

例如，一段无线频谱能够传输多少数据，一根光纤能够承载多少信息，一条电话线能够达到多高的速率，都不是无限增长的，而是受到带宽、信号功率和噪声共同决定。

从那以后，通信工程师努力的方向发生了根本变化。

不是不断突破自然规律，而是不断接近香农给出的理论极限。

今天，从4G、5G到未来的6G，无论是高阶调制、信道编码，还是大规模MIMO、多用户调度，本质上都在回答同一个问题：

如何在有限的频谱资源中，传输更多的信息。

香农80年前画出的那条“天花板”，至今仍然是通信技术追逐的目标。

第二场革命：让数据越来越“小”

随着计算机和互联网的发展，人类开始进入数据爆炸时代。

照片、音乐、电影、电子邮件、网页……信息越来越多。

如果所有数据都原封不动地保存和传输，今天的互联网几乎无法运行。

于是，另一项革命开始了——数据压缩。

香农指出，真正的信息与数据并不完全相同。

很多数据都是重复的、冗余的，可以在不影响主要内容的前提下进行压缩。

例如，一张蓝天的照片，大面积像素颜色几乎一致；一段语音中，连续的静音部分并不需要完整保存；一部电影，相邻画面的变化通常也很有限。

正因为如此，工程师设计出各种压缩算法。

JPEG让照片更小，MP3让音乐更轻，MP4让视频能够流畅播放，各种压缩格式让互联网真正进入大众生活。

可以说，没有信息论，就不会有今天的在线视频、直播平台，也不会有社交媒体上每天分享的海量图片和短视频。

第三场革命：让通信更加可靠

现实世界从来不是理想环境。

无线通信会受到建筑物遮挡、电磁干扰和天气影响；光纤会产生衰减；卫星通信跨越数万公里，更容易受到噪声干扰。

如果每发生一次错误都重新发送，通信效率将大幅下降。

因此，信息论催生了现代纠错编码技术。

它的核心思想非常巧妙：发送数据时，不仅发送真正的信息，还额外加入经过精心设计的校验信息。

这样，即使部分数据在传输过程中受到干扰，接收端仍然能够自动发现错误，甚至直接修正错误。

我们每天都在享受这项技术带来的便利。

二维码即使缺损一角，依然能够扫码成功；手机在高速列车上仍然可以稳定上网；深空探测器距离地球数亿公里，依然能够准确传回照片。

这些看似神奇的能力，背后都离不开信息论和纠错编码的发展。

第四场革命：人工智能重新拥抱信息论

进入21世纪，人工智能迅速崛起。

很多人认为，大模型是一项全新的技术，与传统通信没有关系。

事实上，信息论一直隐藏在人工智能的底层。

训练一个大语言模型，本质上是在不断预测“下一个词最可能是什么”。

如果模型预测得越准确，不确定性就越低；预测得越差，不确定性就越高。

而衡量这种不确定性的，正是香农提出的信息熵。

今天，机器学习中广泛使用的交叉熵损失函数，就是建立在信息熵理论之上；互信息用于衡量变量之间的关联程度；KL散度用于比较两个概率分布的差异。

这些概念，都源自信息论。

换句话说，人工智能虽然诞生于21世纪，但它的重要数学基础，却可以追溯到1948年的那篇论文。

一条贯穿数字时代的主线

如果把过去八十年的科技发展串联起来，你会发现一条清晰的脉络。

信息论回答了“信息如何度量”；

计算机回答了“信息如何计算”；

互联网回答了“信息如何连接”；

人工智能则开始回答“信息如何理解”。

每一次技术革命，都建立在前一次革命的基础之上。

因此，信息论不仅是一门通信理论，更是整个数字文明的起点。

今天，我们使用手机导航、观看在线视频、进行移动支付，与人工智能交流，甚至驾驶智能汽车时，都在享受信息论带来的成果。

香农研究的是电话网络，却影响了整个数字世界；他定义的是“信息”，却改变了人类与世界交互的方式。

这正是伟大科学理论的魅力——它诞生于一个具体问题，却最终超越了那个时代，成为未来几十年科技发展的共同语言。

第四章 从信息时代到智能时代：香农留给未来的遗产

如果回望人类科学发展的历史，你会发现，每一个时代都有一种数学，帮助人类重新认识世界。

17世纪，牛顿创立微积分，人类第一次能够精确描述连续变化，经典力学由此建立，工业革命的大门缓缓开启。

19世纪，麦克斯韦用数学统一电与磁，人类第一次理解了电磁波的本质，广播、电视、无线通信相继诞生，世界进入电气时代。

20世纪，香农重新定义了信息。

看似只是一个新的数学概念，却开启了数字文明。

信息，是一种可以度量的资源

在人类历史的大部分时间里，人们把土地、粮食、矿产、能源看作最重要的资源。

工业革命以后，煤炭、石油、电力推动了现代工业的发展。

而进入21世纪，世界开始进入另一个时代。

数据成为新的生产要素。

每天，全球都会产生海量的数据：搜索记录、定位信息、医疗影像、金融交易、卫星照片、工业传感器数据……

真正创造价值的，并不是数据本身，而是数据中蕴含的信息。

信息论第一次告诉人们，信息并不是抽象的概念，而是一种能够测量、计算、压缩和传输的对象。

正因为如此，信息才能像水、电和能源一样，被大规模利用。

从"连接世界"到"理解世界"

互联网解决的是连接问题。

计算机解决的是计算问题。

而人工智能开始尝试解决理解问题。

今天的大语言模型能够阅读文章、回答问题、翻译语言、辅助科研，看起来仿佛已经具备了某种"理解能力"。

但从数学角度来看，它仍然是在不断降低预测的不确定性。

信息论研究的是：

如何在不确定中获得更多的信息。

人工智能研究的是：

如何利用大量信息做出更准确的预测。

二者看似属于不同领域，却拥有共同的数学基础。

因此，有人说：

20世纪最重要的理论之一是信息论。

21世纪最重要的技术之一是人工智能。

而两者之间，隔着的只是几十年的工程发展。

伟大的理论，总会超越自己的时代

科学史上有一个有趣的现象。

许多伟大的理论，最初都没有立即改变世界。

牛顿建立微积分时，并不知道它会成为现代工程学的基础。

傅里叶研究热传导时，也不会想到自己的理论会用于数字音乐、医学影像和5G通信。

图灵研究计算机器时，更不会想到几十年后，每个人口袋里都会装着一台计算能力远超当年大型计算机的智能手机。

香农也是如此。

1948年发表《通信的数学理论》时，互联网尚未出现，个人计算机还只是梦想。

然而今天，数字通信、光纤网络、卫星导航、移动互联网、云计算、大数据、人工智能……几乎所有数字技术，都能追溯到信息论建立的数学框架。

这正是基础科学最伟大的力量。

它解决的不是今天的问题，而是未来几十年甚至上百年的问题。

数学发展的下一站

回顾整个数学发展的历史，我们会发现一条清晰的主线。

古希腊建立了几何，让人类学会描述空间。

代数学的发展，让人类学会研究数量关系。

微积分让人类能够研究连续变化。

概率论让人类开始理解随机世界。

线性代数成为现代计算的语言。

信息论则让人类第一次能够度量信息。

这些看似彼此独立的学科，最终汇聚成现代科学共同的基础。

今天，人工智能的发展，又把它们重新联系在一起。

训练一个大模型，需要线性代数完成矩阵计算，需要微积分完成梯度优化，需要概率论处理不确定性，需要信息论衡量预测误差。

没有哪一门数学能够独自支撑人工智能，它们共同构成了数字时代的数学基石。

写在最后

从烽火狼烟到飞鸽传书，从莫尔斯电报到互联网，从电话到5G，从大型计算机到ChatGPT，人类用了几千年的时间，不断提升信息传播和处理的能力。

而1948年，是这段历史中最重要的转折点之一。

因为就在这一年，克劳德·香农完成了一件看似简单却意义非凡的事情：

他让“信息”第一次拥有了数学定义。

从此以后，信息不再只是新闻、文字或声音，而成为一种可以计算、可以压缩、可以编码、可以传输、可以优化的科学对象。

如果说牛顿让人类学会了用数学描述运动，傅里叶让人类学会了用数学分析信号，那么香农则让人类学会了用数学理解信息。

今天，我们生活在数字文明之中，享受着互联网、移动通信和人工智能带来的便利。

而这一切，都可以追溯到80多年前那篇不足百页的论文。

它改变的不仅是一门学科，更开启了一个属于全人类的新时代——信息时代。