香农定理
SHANNON THEOREM // 信息的天花板
> 1948 年，26 岁的贝尔实验室工程师克劳德·香农用一篇论文开出一整个学科（信息论），并写下通信世界永远的物理定律：C = B·log₂(1+S/N)——带宽 × 频谱效率 = 信道容量的上限。再多功率、再聪明的编码，都不能超过它一丝。这条公式定过调制解调器的终点（3kHz 电话线封顶约 30kbps）、定过 5G 的设计边界（毫米波=买带宽而非买功率）、也定义了"信息"本身——熵 H = −Σp·log p，一个系统的不确定度可以用比特精确称量。香农最惊人的手笔是信道编码定理：他证明了容量内可以无限可靠传输，但用的是随机编码存在性证明——"好编码存在"，可它长什么样，人类又找了五十年（Turbo/LDPC/Polar）。
Principle — 原理与来源
人物与论文：克劳德·香农（Claude Shannon，1916–2001），密歇根出身、MIT 博士、贝尔实验室。1948 年《通信的数学理论》（A Mathematical Theory of Communication，Bell System Technical Journal 七/十月两期，被引超十万次）单枪匹马创立信息论：定义熵、信源编码定理、信道编码定理；1949 年《噪声存在下的通信》给出带限高斯噪声信道的容量公式（即今日所称 Shannon–Hartley 定理）。顺带一提：论文里的"bit"一词由同事 John Tukey 建议（binary digit 缩合），香农在文中大方致谢——术语不是他造的，学科是他造的。
公式怎么读：C 是无差错传输的速率上限（bit/s）；B 是带宽（Hz）；S/N 是信噪比。三个工程直觉：① 带宽线性——B 翻倍容量翻倍；② 功率对数——S/N 翻倍（+3dB）只多 1 bit/s/Hz，买带宽远比加功率划算（频谱拍卖天价的数学根源）；③ 噪声之下仍有容量——只要 S/N > 0，低速率可靠传输总是可能（深空通信的根基：功率小得可怜照样传，只是慢）。
定理一族（"香农定理"是复数）：① 采样定理——带限信号采样率 ≥ 2B 可完美重建（Nyquist–Shannon，CD 44.1kHz 的来源）；② 信源编码定理（第一定理）——无损压缩的平均码长不可低于熵 H，ZIP/视频编码的极限依据；③ 信道编码定理（第二定理）——只要信源速率 H < 信道容量 C，存在编码使差错率任意小。香农只证了"存在"（用随机编码技巧），没有给出构造——具体的好码（Turbo 1993、LDPC 复活、Polar 2009 首个被证明达容量的显式码）让工程师找了半个多世纪。
工程战史：电话调制解调器在 3kHz 话音信道上从 300bps 一路爬到 V.34 的 33.6kbps——约逼近香农极限的 90%；V.90 "56k" 能超界是因为下行走数字端直连（不是推翻香农，是换了信道）。今天 5G、Wi-Fi 6/7 的 QAM1024、LDPC/Polar 码都在极限的 90%+ 区间"贴地飞行"——突破香农极限的方式不是更好的码，而是改信道本身：MIMO 多天线（并行信道相加）、毫米波（买带宽）、光纤（换介质）。
Apply — 用在哪里
Simulate — 信道容量计算器 × 熵与压缩地板
Personal Takeaways — 个人启示 · 03
分清线性瓶颈与对数瓶颈
香农公式最实用的不是算速率，是那组敏感度：带宽给线性回报、功率给对数回报。系统优化前先问——我拧的是哪个变量？拧线性变量一个刻度顶对数变量一倍，加错杠杆是最大的浪费。
极限的存在让努力有方向
知道天花板在哪，才知道自己是"还有 90% 空间"还是"已经贴顶该换赛道"。调制解调器时代 engineers 知道 3kHz 的极限在 30kbps 附近，于是不再砸功率、转而发明更好的码——认清极限是转型最早的信号。
证明存在与构造出来是两回事
香农说"好编码存在"，工程师找了五十年才找到 Polar。这个 gap 在工程里天天出现：架构上证明了可行方案存在，不等于排期里它已经存在——存在性证明给的是方向，不是交付；两者之间是整个团队的工期。