跳至内容

OpenAI

OpenAI 的数学声明暴露了 AI 的验证瓶颈

OpenAI 据称生成的证明来得比专家审查更快,AI 生成数学正在暴露验证瓶颈。

Abstract desk scene with blank papers, geometric forms, and a glowing network suggesting AI-assisted mathematics.
本页内容

AI 已经进入数学的一个领域,在那里稀缺资源不再只是证明本身,而是人类对证明的消化能力。据 WIRED 报道,OpenAI 于 8 月召集了约 40 位数学家,讨论如果 AI 系统在该领域超越人类能力,接下来应该怎么办;与会者称,该公司暗示其模型已经解决了数百个长期存在的问题。

这本身就已经是一个重大的治理问题。同时,它也是一个技术里程碑。Ars Technica 报道称,5 月中旬,OpenAI 宣布其一个内部模型推翻了厄尔德什单位距离猜想——这是离散几何中一个已有 80 年历史的问题。菲尔兹奖得主 Tim Gowers 称这一结果是“AI 数学的一个里程碑”,多伦多大学教授 Daniel Litt 则称,这是他认为“就其本身而言,而非作为领先指标”令人兴奋的首个由 AI 自主产出的结果。

紧张点并不只是“AI 在数学上击败人类”。更尖锐的问题是,AI 实验室生成数学成果的速度,可能快过数学共同体验证、归属、吸收并在其基础上继续推进的速度。

WIRED 的报道描述了前沿 AI 实验室与职业数学家之间围绕流程日益扩大的冲突。OpenAI 发言人 Lindsay McCallum 告诉 WIRED,8 月 28 日,该公司开始训练一个新的内部模型;除了“解决纳维—斯托克斯千禧年大奖难题”之外,该模型还“解决了数学大多数领域中 100 多个长期未解的开放问题”。

这是一个非同寻常的声明,而且它所处的语境很脆弱。纳维–斯托克斯问题是千禧年大奖难题之一,这类问题的解决通常需要专家进行长期审查。我们在 OpenAI 的纳维–斯托克斯证明声明中讨论过围绕这一声明的验证风险:头条成果很重要,但从“模型产出了一段论证”到“该领域接受这个定理”的路径,才是最困难的部分。

WIRED 还报道称,OpenAI 曾告诉一些人,它计划在 GitHub 上发布数百个未解问题的解答。McCallum 告诉 WIRED,该公司正在“负责任地发布”下一批数学结果,并参考高等研究院数学与人工智能顾问小组的建议和公开建议。她还表示,OpenAI 尚未设定发布时间。

这个区别很重要。GitHub 发布对软件很有用,但它并不自动成为前沿数学的正确承载单位。数学家可以阅读代码、形式化证明、提纲和论文,但每种格式回答的是不同的问题。论证成立吗?关键想法是谁提出的?它依赖哪些已有工作?哪些部分是新的,哪些只是重新组合?其他研究者应该引用什么?

参加了 8 月会议的西北大学数学家 Bryna Kra 告诉 WIRED,与会者要求 OpenAI 不要只通过博客文章或推文发布结果,而是撰写能让数学家“吸收、消化和使用”的论文。Kra 对 WIRED 说:“显然,这些意见被忽视了。”

单位距离结果同时展示了承诺与局限

链接到此部分:单位距离结果同时展示了承诺与局限

源材料中最清晰的技术例子,并不是那批存在争议的数百项结果,而是 OpenAI 较早的单位距离结果。

厄尔德什单位距离问题大致是在问:平面中有多少对点可以相距恰好一个单位。Paul Erdős 猜想,最优排列的增长速度只会比点的数量快一点点。根据 Ars Technica 的报道,OpenAI 的模型通过构造一种比传统网格方法更复杂的点排列,证明他错了。

Ars 将这一方法描述为对已知数学思想的巧妙重组。该模型使用高维网格,将其投影到二维,并利用代数整数创造出更丰富的结构。按照 Ars 的评估,这一结果并没有引入真正全新的技术。后来,人类数学家对这项工作进行了整理和扩展。

这种组合很重要:足够自主,因而有意义,但并非魔法。AI 系统找到了一个解决重大开放猜想的证明,但这一结果仍然需要人类的解释、简化、扩展,并被放入文献脉络之中。

这也是短期内 AI 在研究中最现实的图景:模型进行广泛搜索,连接不同子领域,并推进那些对人类来说乏味的证明策略;人类决定哪些问题重要,修补表述,检查工作,并构建下一层理论。这样的分工也许不会永远成立,但现有报道中的证据更支持一种混合叙事,而不是干净利落的替代叙事。

这也类似工程师在软件智能体中看到的情况。最困难的生产问题不只是“模型能否给出答案?”而是“我们能否评估它、复现它、归因于它,并安全地让它采取行动?”这就是为什么评估设计已经变得核心,从小型黄金集到 pass@k 等多次运行指标都是如此;如果你想了解工程版本,可以从 LLM 评估开始。

新文章直达你的收件箱

AI 新闻、指南和产品更新——有值得你花时间阅读的内容时,我们会发一封简短邮件。

WIRED 报道的反弹,并不是简单意义上的反 AI。报道中引用的几位数学家似乎都对更强的工具感到兴奋。他们担心的是制度权力和科学流程。

WIRED 写道,一些学者认为,随着 OpenAI 和 Anthropic 竞相展示模型能力,数学已经变成了这些公司的试验场。纽约大学访问数学教授 Nestor Guillen 告诉 WIRED,数学家对 AI 公司存在一种“黑帮行为的感知”。OpenAI 的 McCallum 回应称:“我们不同意这种描述。”

WIRED 描述的最严重争议涉及纽约大学教授 Tristan Buckmaster 和 Anthropic 员工 Levent Alpöge。WIRED 报道称,OpenAI 在听到其他人接近解决某个千禧年大奖难题的“传闻”后,于 9 月部署了数千个智能体来攻关该问题。Buckmaster 指责 OpenAI 抢跑了他与 Alpöge 共同完成的工作;这项工作二人尚未发表,但一直在使用 OpenAI 工具协助推进。

根据 WIRED 对 OpenAI 研究员 Sébastien Bubeck 回应的描述,Bubeck 否认曾要求将 Alpöge 排除在作者署名之外。尽管如此,这一事件仍说明了:当研究者使用专有工具、实验室能够观察到部分使用情况,而内部模型又能被大规模指向相邻问题时,归属会变得多么困难。

共同体已经在回应。WIRED 提到 Hexagon,这是一个主要收录 AI 生成数学材料的仓库;还提到 Palomar,这是一个机器验证数学的登记系统。报道还引用了《莱顿宣言》,这是一份由 4,000 多名数学家签署的呼吁,要求 AI 公司遵守数学家的标准。

方向很明确:如果 AI 生成数学变得丰富,数学就需要新的基础设施来处理来源、审查和验证。GitHub 可能是其中一部分,但它不能成为全部流程。

一个证明不会因为强大的模型输出了它就被接受。它之所以被接受,是因为一个共同体能够检查它。

外部人士很容易低估这一社会层。数学常常看起来像纯粹逻辑:证明要么有效,要么无效。实践中,一个证明还必须可读、经过语境化,并与既有工作相连接。一个领域需要知道哪些引理在真正发挥作用,哪些假设被隐藏了,哪些引用缺失了,以及哪些声明足够强,可以被复用。

AI 通过改变产量来给这一系统施压。一个困难证明是一项挑战。数百个被声称的解答则是一个排队问题。如果每个结果都只有少数专家能够评估,那么一次性发布大批结果,从实验室视角看可能像是进展,从该领域视角看却可能像是一堆残骸。

对 AI 构建者来说,一个有用的类比是:没有审查能力的能力提升会带来运营风险。一个打开 200 个 pull request 的编码智能体,可能不如一个只打开 5 个可审查 pull request 的智能体有用。一个研究智能体如果产出数千个候选声明,就需要分诊。一个跨工具采取行动的商业智能体,则需要审批点、审计日志和回滚路径。同样的模式也出现在人在回路审批以及长时间运行的智能体工作中,在这些场景里,语境、状态和监督比一个令人印象深刻的答案更重要。

这场数学争议预示了当生成变得比评估更便宜时会发生什么。

数学是一个早期压力测试,因为它具有一些不同寻常的属性。问题可以被清晰表述。证明有时可以被形式化检查。声望与解决有名的开放问题相关。而且,该共同体围绕优先权、归属和发表有强烈规范。

凡是同时满足以下三个条件的领域,都会面临同类压力的某种版本:

条件为什么重要
输出生成成本低AI 可以用候选结果淹没审查流程
验证成本高专家、实验、法院或用户仍必须检查工作
信用很重要优先权、作者署名、责任或收入取决于来源

软件已经到了这一步。代码可以快速生成,但正确性、安全性、可维护性和所有权仍然需要审查。科学文献也很接近:AI 提出假设或分析的速度,可能快过实验室检验它们的速度。法律和医疗工作受到更多约束,但它们同样存在流畅输出与高成本验证之间的不对称。

教训不是默认让每个模型都变慢,而是围绕瓶颈来设计制度和系统。如果一个模型可以产出 1,000 个看似合理的工件,产品问题就变成:哪 10 个应该让人类看到,以什么顺序,带着什么证据,并在什么约束下?

这也是实用智能体系统的设计中心。多智能体工作流需要路由、记忆、工具和升级路径,但也需要边界:哪些可以自动运行,哪些需要审查,哪些需要记录下来供之后检查。如果你正在朝这个方向构建,相关工程问题与多智能体编排的重叠,要多过与 prompt 巧思的重叠。

这些报道指向了一小组可以降低摩擦的规范。

第一,发布论文,而不只是发布公告。博客文章可以解释结果,但当声明是一个定理时,它不应取代学术对象。

第二,将能力演示与科学声明分开。“我们的模型产出了这个证明”和“共同体接受了这个结果”是不同的表述。保持二者分离,既保护实验室,也保护该领域。

第三,披露来源。如果外部数学家使用了 AI 工具,如果实验室能够访问用户交互,或者如果内部智能体是在听说竞争性工作之后才被部署的,那么归属叙事就不能只靠一个脚注。

第四,使用登记系统和验证基础设施。WIRED 报道称,数学家曾鼓励 OpenAI 使用 Hexagon 和 Palomar 等工具。如果这些工具还不够充分,实验室应该帮助改进流程,而不是绕开它。

第五,以人类可审查的节奏发布。一次性倾倒数百个结果或许能最大化戏剧效果,但不能最大化理解。

如果存在身份危机,它并不是数学家不再重要,而是这个职业可能需要重新定义自己的稀缺工作。当机器能够产出更多候选答案时,提出好问题、设定标准、验证结果、分配信用,以及把孤立证明转化为可用理论,都会变得更加重要。

这种转变令人不适,但也并不陌生。每一个成熟领域在生产变得廉价时,都会发展出过滤机制。AI 正在迫使数学公开构建这些过滤机制。

如需更多清晰的 AI 新闻和实用指南,请订阅 NeuraLIA Labs 新闻简报。

  • 核心问题不只是 AI 能否解决困难数学问题,而是数学共同体能否以同样速度验证并吸收这些结果。
  • 据报道,OpenAI 声称在长期问题上取得重大进展,包括纳维–斯托克斯以及 100 多个其他开放问题,但是否被接受取决于专家审查。
  • 厄尔德什单位距离结果展示了一种可能的短期模式:AI 系统可以找到重要证明,而人类仍负责简化、语境化并扩展它们。
  • 数学家的担忧集中在流程、来源、归属、发表规范,以及审查系统被压垮的风险。
  • 同样的“生成 vs. 验证”瓶颈正在软件、科学、法律、医疗和智能体式 AI 工作流中出现。

它指的是 AI 系统生成看似合理的证明或声明的速度,与专家验证、语境化、归属并复用它们的速度之间的差距。

OpenAI 证明了纳维–斯托克斯问题吗?

链接到此部分:OpenAI 证明了纳维–斯托克斯问题吗?

据报道,OpenAI 声称一个内部模型解决了纳维–斯托克斯千禧年大奖难题,但本文强调,在此类声明被接受之前,需要共同体进行验证。

数学家为什么担心 AI 生成的证明?

链接到此部分:数学家为什么担心 AI 生成的证明?

他们的担忧包括发表标准、作者署名、来源、优先权争议,以及大批 AI 生成结果可能压垮专家审查的可能性。

OpenAI 的单位距离结果说明了什么?

链接到此部分:OpenAI 的单位距离结果说明了什么?

根据文中讨论的报道,一个 OpenAI 模型通过以有用方式重组已知思想,推翻了厄尔德什单位距离猜想;之后,人类数学家对这项工作进行了整理和扩展。

哪些领域可能接下来面临同样的问题?

链接到此部分:哪些领域可能接下来面临同样的问题?

软件、科学研究、法律工作和医疗工作都面临类似压力,因为 AI 可以快速产出内容,而验证仍然昂贵且后果重大。

新文章直达你的收件箱

AI 新闻、指南和产品更新——有值得你花时间阅读的内容时,我们会发一封简短邮件。

更喜欢用消息接收?同样的内容,也在这里:WhatsApp 社群 (在新标签页打开)Telegram 频道 (在新标签页打开)

作者

David Vicente Campos

NeuraLIA Labs 创始人、MyRealFood 联合创始人

我是莱昂大学毕业的计算机工程师。我共同创立了 MyRealFood,并在那里作为 CTO 打造了一款数百万人用来吃得更健康的应用;我还创立了 NeuraLIA Labs,在这里我打造 AI 产品。我在本站写下一路走来所必须理解的内容,就像我希望当初有人向我讲解的那样。

了解作者更多信息

由 NeuraLIA Labs 发布。

Abstract fluid vortex with geometric proof structures and a glowing verification grid.
openai9 分钟阅读

OpenAI 的 Navier–Stokes 证明主张,一文读懂

OpenAI 称,AI agent 找到了一个 Navier–Stokes 奇点,并用 Lean 形式化了证明。更难的故事在后面:审查、署名,以及私有 agent 集群在数学中的力量。

Abstract software decision engine with branching paths, probability nodes, and glowing gates.
jev10 分钟阅读

Jev AI 模型为决策而生,而非写作

TypeSafe AI 的 Jev 正受到关注,因为它把软件智能视为一个概率问题:选择正确分支,附上置信度,并避免在代码只需要决策时还花钱让 LLM 写文本。

让你的 AI 今天就开始工作

所有模型和工具都在一处。免费开始,无需信用卡。