AMDAHL'S LAW
并行的天花板 // The serial fraction caps everything
> 1967 年,吉恩·阿姆达尔(Gene Amdahl,彼时仍在 IBM)抛出一个冷酷论断:你能从并行里榨出的加速,永远被那段"无法并行"的代码封顶。这条阿姆达尔定律以他的名字流传至今。
Origin — 它从哪来
1967 年 4 月,AFIPS 春季联合计算机会议(Atlantic City)。阿姆达尔发表论文 Validity of the single processor approach to achieving large scale computing capabilities。
原始意图很务实:论证"与其堆大量小处理器做并行,不如把单处理器做得更快"。这是个有时代局限的立场——但定律本身剥离意图后依然锋利。
Formula — 一行决定一切
推论:当 N → ∞,Smax = 1 / f。那段跑不快的代码,决定了你堆 1000 个核也只能快这么多。
Simulator — 拖动它,感受天花板
Twist — 上限可被重新定义
21 年后,约翰·古斯塔夫森(John Gustafson)反驳:阿姆达尔假设"问题规模固定"——同一个任务切成更多份。但现实中,人们拿到更多核,是去处理更大的问题(规模随 N 增长)。此时串行比例 f 不再固定,并行收益可远超阿姆达尔上限——这就是 古斯塔夫森定律(Gustafson's Law)。
定律从没错。真正的天花板,是它那个未被察觉的前提。
Apply — 把定律搬进真实生活
> 换掉变量,结构依然成立:整体提升,永远被"不可优化的瓶颈部分"封顶。两个可直接套用的版本——
每天 2 小时无意识刷手机,就是注意力的"串行损耗 f"。哪怕把有效工时翻倍,总产出也被这段低质量时间按 1/f 封顶。
摩擦成本是组合里"确定存在、无法靠更勤奋研究消除"的部分——它就是投资的 f。约翰·博格(John Bogle)据此创立指数基金:把 f 压到极致,长期反而跑赢绝大多数主动基金。
Personal Takeaways — 个人启示 · 03
先找瓶颈,再堆资源
加速的收益被"不可并行/不可改进"的部分封顶。在堆核、加人、加机器之前,先问:串行段(真正的瓶颈)在哪?优化瓶颈一寸,胜过优化其它一尺。
知道上限,比盲目乐观更重要
阿姆达尔定律的价值不在让人绝望,而在让人清醒:任何系统都有一个由"最慢环节"决定的渐近线。先算清天花板,再决定要不要砸钱逼近它。
上限常是假设的产物
古斯塔夫森证明阿姆达尔的"硬上限"源于"问题规模固定"这个隐性假设;假设一变,上限就被抬高。生活里很多"不可能",拆到底都是某个未被察觉的前提——改前提,比硬撞天花板更值得。