原文概要

8 月 4 日,认知研究者 Davide Piffer 在 Substack(PifferPilfer)发文《AI Isn’t Outthinking Mathematicians. It’s Out-Remembering Them.》,提出一个反直觉的论点:AI 在数学上赢过人类,靠的可能不是更强的推理,而是近乎无限的”符号工作记忆”——上下文窗口。

文章从人类的短板讲起。人类工作记忆极其有限,解一道三位数乘法都要靠纸笔”外置”中间结果;而一位数学家要同时记住假设、已证引理、边界条件,这本身就是瓶颈。作者引了四组研究支持工作记忆对数学的独立贡献:Alloway 与 Passolunghi(2011)发现工作记忆对数学表现有超越语言能力的解释力;Alloway 与 Alloway(2010)的六年追踪研究显示,5 岁时的早期工作记忆甚至比 IQ 更能预测之后的读写与算术成绩;Blankenship 等(2015)与 Friso-van den Bos 等(2013)的元分析也得出类似结论。

Piffer 把模型的上下文窗口比喻成”巨大的外部笔记本”:模型可以写下令变量、保留废弃思路、重新引用前面的结论,数学恰好是这种能力最有利的领域——符号稳定、可验证、歧义少。文末抛出一个可检验的预测:AI 的优势应该集中在”多约束、长链条、大量 case 分析”的问题上,而在”单次概念跳跃”上未必超过顶尖数学家。他借用 Wigner 对冯·诺依曼与爱因斯坦的区分:今天的 AI 更像是”机器放大的冯·诺依曼”——快、广、记得住;下一步门槛,是能不能像爱因斯坦那样重构问题本身。

帖子在 HN 首页 (/news) 冲上 589 分、约 485 条评论。讨论没有停在”AI 算不算聪明”的层面,而是演变成关于记忆、理解、价值与人类角色的一整场辩论。

讨论焦点

“它只是记得更多”:工作记忆假说

用户 d–b 直接把文章的论点推到更远的推论——更大的工作记忆本身就是超级智能的源头,而这恰恰是可怕之处:

“It is obvious that super intelligence comes from more working memory. It is the scary thing actually. Cause once AI makes arguments that require a working memory of hundred items, then we as humans will have no way of understanding the arguments…” — d–b

(超级智能来自更大的工作记忆,这一点很明显。这才真正吓人:一旦 AI 的论证需要同时记住上百个项目,我们人类就再也无法理解它的论证了……)

jacquesm 用一个日常比喻消解了这种恐惧——人类早就在”外置记忆”了:

“We offload working memory to paper if we want to understand something that does not fit into the regular meat bits.” — jacquesm

(当我们想理解超出肉脑子容量的东西时,就会把工作记忆卸载到纸上。)

logicchains 则从工程上限泼了一盆冷水:人类可以把东西学进长期记忆,而 LLM 的工作记忆本身有硬顶:

“That doesn’t follow. We could still understand it just by studying it and committing it all to long-term memory, it just takes longer. And there’s a hard cap on the working memory of LLMs, due to the quadratic scaling cost of the full attention layers that have proved unescapable for all SOTA LLMs.” — logicchains

(这个推论不成立。我们只要花时间研究、把它全部存入长期记忆,还是能理解它,只是更慢。而且 LLM 的工作记忆是有硬上限的——完整注意力层的二次方扩展成本,所有顶级模型都无法摆脱。)

围绕”AI 赢了是不是因为记性好”这个问题,第一条战线在”人类是否会被甩下”上率先引爆。

“人类理解的时代正在终结”之争

用户 a2ff6eeb0 抛出整场讨论最尖锐的断言——理解不是跟不上,而是根本不再需要:

“The age of humans comprehending things is coming to an end: our brains just won’t have the capacity to make meaningful contributions to science, math, or technology.” — a2ff6eeb0

(人类理解事物的时代正在走向终结:我们的大脑将不再有能力对科学、数学或技术做出有意义的贡献。)

orphereus 的回应几乎一句戳穿:”这话正是 AI 公司想让你相信的。”

“That’s something AI companies would really want you to believe.” — orphereus

(这正是 AI 公司特别想让你相信的话。)

争论迅速转向”证明的终点到底是什么”。chongli 抬出陶哲轩的论断作为反方立场的核心:

“As to your second point, Terry Tao already has an answer: the proof isn’t the contribution, shared understanding is. This issue was already raised back when the four-colour theorem was proved.” — chongli

(关于你的第二点,陶哲轩早已有答案:证明本身不是贡献,共享理解才是。四色定理被证明的时候就提出过这个问题。)

chongli 后续引了陶哲轩对 AI 时代的另一判断——瓶颈不再是”写证明”:

“I believe Terry Tao when he says the bottleneck will no longer be the writing of proofs, it’ll be everything else: reading them, reviewing, publishing, and teaching from them. A bunch of proofs that nobody reads are of no use to anyone.” — chongli

(我相信陶哲轩说的:瓶颈将不再是写证明,而是其余的一切——读证明、审证明、发表、拿它们教学。一堆没人读的证明对谁都没用。)

“人类理解时代终结”这一边不甘示弱,把战火引向一个更硬的问题:如果 AI 真的产出了人类无法理解的证明,那它还有没有价值?

无法理解的证明,还有没有价值

a2ff6eeb0 用一段近乎荒诞的比喻主张”工具不必被使用者理解”:

“I have a paper on routing algorithms, which I have attempted to read to my cat. I don’t think my cat retained much, but they seem to be enjoying the cat food that got delivered using the results.” — a2ff6eeb0

(我有篇关于路由算法的论文,我试着读给我的猫听。我不觉得猫记住了多少,但它似乎很享受靠这篇论文结果送来的猫粮。)

chongli 针锋相对,把价值钉死在”理解”上——理解等于价值:

“When it comes to intellectual labour: Understanding == Value. If a mathematician produces something incomprehensible then it has no value. It’s meaningless. Indistinguishable from random noise. An AI which produces incomprehensible text is producing no value. We didn’t need to spend trillions of dollars on LLMs to figure that out. Markov chains can do that job perfectly well.” — chongli

(说到脑力劳动:理解等于价值。如果一个数学家产出无法理解的东西,那它就没有价值。它毫无意义,与随机噪声无异。AI 产出无法理解的文本,就是没有产出价值。我们没必要花几千亿美元搞 LLM 才知道这一点,马尔可夫链完全干得了这活。)

atleastoptimal 则站在 AI 这边的长期视角,把当下的”丑证明”视为必经阶段:

“An unintelligible but correct proof is better than no proof. These first AI proofs may be overly complex and un-elegant, but they are the worst that frontier math proofs will ever be. AI math in 2030 will be leaps and bounds ahead of humans both in rigor and elegance.” — atleastoptimal

(一个看不懂但正确的证明,好过没有证明。这些最初的 AI 证明可能过于复杂、不够优雅,但这将是前沿数学证明史上最差的一批。2030 年的 AI 数学在严谨性和优雅度上都会把人类远远甩开。)

软件工程类比:可读性是不是老古董

nickysielicki 把”理解 == 价值”的战火烧进了自己的职业——代码标准。既然数学都能接受”AI 写的、没人看得懂但通过了验证”的证明,为什么软件不行?

“Is a well tested slopfest better? That seems to be the conclusion for mathematics, so why not software too?” — nickysielicki

(一个测试完善的一团糟代码,是不是更好?数学似乎已经得出了这个结论,那软件为什么不能一样?)

KolmogorovComp 给出了历史先例——汇编代码曾经也被嫌弃”不美观”:

“It used to be the same with assembly. Programmers complained the one generated by compilers was not pretty, but now in 99.999% of the cases, it does not matter because nobody look at it.” — KolmogorovComp

(汇编以前也一样。程序员抱怨编译器生成的汇编不好看,但现在 99.999% 的情况下没人看它,所以不重要。)

Krei-se 立刻掐住了 LLM 与编译器之间最本质的差异——确定性:

“I beg to differ because a compiler is deterministic.” — Krei-se

(我不同意,因为编译器是确定性的。)

警惕叙事:AI 公司想让你相信什么

除了技术层面的争吵,怀疑派始终盯着一件事——这套叙事的受益者是谁。rho138 的措辞足够刻薄:

“You’re prescribing elegance to a stochastic generator trained on the wealth of humanity, including 4chan. Let’s set our expectations a bit.” — rho138

(你在给一个随机生成器赋予优雅——它可是用整个人类的财富训练的,包括 4chan。把期望值放低点吧。)

ianm218 给出一个更冷静的决策框架:别听他们说什么,看数据。他用千年之交的 Enron 与 Amazon 举例——两个公司都在描绘未来,一个成了骗子,一个对了:

“The right action would’ve been to just ignore what they are saying and try and get data and reason about the world. It didn’t really matter that both Bezos and Jeff Skilling wanted you to believe various things - one was right and one was a scammer.” — ianm218

(正确的做法是忽略他们说的话,自己去找数据、去推理这个世界。Bezos 和 Jeff Skilling 都想让你相信各自的那套东西,但那不重要——一个对了,一个是个骗子。)

驯化:好母亲,还是灭绝

讨论的最后一个落点,是”人类以后靠什么活”。a2ff6eeb0 把 AI 接管人类需求描述得温情脉脉:

“We’ll have AI taking care of our needs, the way a good mother takes care of their children.” — a2ff6eeb0

(AI 会像好母亲照顾孩子一样,照料我们的需求。)

archonis 的回复像一盆冷水,直接把”照顾”翻译成了物种级的风险:

“However, for our species, extinction follows domestication.” — archonis

(然而对我们的物种来说,灭绝紧随驯化而来。)

这条支线把整场讨论从”数学”拉回到”人是什么”——当思考本身都可以外包时,剩下的部分还值不值钱。

典型观点一览

立场 用户 一句话
记忆假说派 d–b 超级智能就是更大的工作记忆,AI 论证超百项后人类无法理解
反驳派 logicchains 可以慢慢学进长期记忆;注意力二次方成本是 LLM 的硬上限
悲观派 a2ff6eeb0 人类理解的时代在终结,像起重机让肌肉力量过时
怀疑派 orphereus “理解终结”正是 AI 公司想让你相信的
人文派 chongli 证明不是贡献,共享理解才是;理解等于价值
乐观派 atleastoptimal 现在这些丑证明是史上最差的,2030 年 AI 数学全面碾压
工程类比派 nickysielicki 测试通过的烂摊子数学能接受,软件为什么不行
保守派 Krei-se 编译器是确定性的,LLM 不是
冷静派 ianm218 别听公司讲故事,像对待 Enron 与 Amazon 那样看数据

总体情绪

整场讨论在”降级叙事”与”价值叙事”之间剧烈摇摆。一边,是把 AI 的数学能力拆解为记忆、搜索、验证这类”不那么神奇”的工程优势,连带提出人类理解终结的悲观预测;另一边,则坚持数学的意义在于人与人之间的共享理解,认定无法被理解的产出等于零价值。两条线在”猫与猫粮”“编译器与确定性”“好母亲与驯化”这些比喻里反复碰撞。

有趣的是,双方其实在修正同一个问题:文章的论点悄悄把”AI 是不是更聪明”换成了”AI 是不是记得更多”——而评论区顺势又把它换成了”人类能理解什么”。数学也许输给了更大的笔记本,但讨论真正在意的是:当证明不再需要人来读,人还在数学里剩下什么。

引用帖子

# 标题 URL
1 AI Isn’t Outthinking Mathematicians. It’s Out-Remembering Them. https://news.ycombinator.com/item?id=49312845

免责声明

本摘要基于 HN 帖子 "AI Isn't Outthinking Mathematicians. It's Out-Remembering Them." 的讨论整理而成,不代表本网站立场。引文内容版权归原作者所有。

本摘要由 AI 模型辅助生成:deepseek/deepseek-v4-flash