ESC
AI 1 分钟阅读

OpenAI 狡猾的数学突破令学术界不寒而栗

OpenAI 宣布其 AI 解决了传奇的千禧年大奖难题之一,本应是里程碑时刻,却陷入争议:纽约大学教授 Tristan Buckmaster 质疑 OpenAI 是否通过 Codex 访问过自己的研究记录,数学界担忧其抢跑行为破坏了学术界的信任规范。OpenAI 否认使用特定用户数据,但无法排除间接影响,学者们担心 AI 竞争将令数学研究重回保密时代。

来源:The Verge

OpenAI 周二宣布其解决了数学界传奇性的千禧年大奖难题(Millennium Prize problems)之一,这本应是一个胜利时刻。这一成果既是不可否认的成就,也生动展示了 AI 正在以何等惊人的速度改变数学。但在这项突破正式公布之前,促使 OpenAI 攻克这一难题的不同寻常的缘由已让事情变得复杂:在听说其他研究人员正取得进展后,OpenAI 似乎倾注了其庞大的资源,在最后关头发力抢在他们前头。随之而来的争议引发了关于抢发成果、窥探隐私以及公然违反长期学术规范的指控,研究人员担心这会给该领域带来寒蝉效应。

正如伦敦玛丽女王大学数学教授 Abhishek Saha 所解释的,OpenAI 的所作所为属于“数学家通常不会做的事情”。

在一篇博客文章中……“如果你不想让我友善,那我也不必友善。”

但这一消息公布的时机令人侧目。就在一天前,纽约大学数学教授 Tristan Buckmaster……

Buckmaster 表示,他曾询问 OpenAI 是否访问过他在 Codex 上的会话记录——他在攻克这一难题时使用了 Codex——但 OpenAI 的回应越来越回避,甚至带有敌意。在随后的声明中,包括宣布这一成果的博客文章,OpenAI 断然否认使用任何特定用户数据。“我们(研究人员和智能体)在他们公开发表之前,没有通过任何方式看到他们的任何工作——尤其是,我们没有为解决这一问题而访问任何特定用户数据,”该公司表示。

但 OpenAI 无法明确排除间接影响的可能性。“虽然可能性不大,但我们无法排除源自他们使用我们产品的去标识化数据帮助改进了我们模型的情况,”该公司表示,同时强调两份证明存在显著差异。OpenAI 研究人员在 X 上的评论也附和了这些否认。

究竟发生了什么,很难说得清。时间线盘根错节,研究相互重叠,而 AI 生成工作的来源即便在最好的情况下也难以、甚至无法查明。不同的参与者竞相解决世界上最著名的数学难题之一,尤其是附带巨额奖金的难题,也并不令人意外。

但 OpenAI 的说法中有些方面难以解释。按照该公司自己的说法,这次攻关是一场仓促且极其昂贵的行动,耗资数百万美元。然而该公司表示无意申领奖金——何况负责管理奖金的克雷数学研究所(Clay Mathematics Institute)无论如何尚未颁发这一奖项。该公司表示,其唯一的目标“是报告我们 AI 模型的重大进展”。在 9 月之前,该公司似乎并未在攻克 Navier-Stokes 方程上投入多少精力,即便有投入,也没有公开谈起过。

那么,为何如此匆忙?

OpenAI 的解释实际上等于一声洪亮的“为什么不呢?”。该公司表示,它是在听到其他研究人员正在千禧年大奖难题上取得进展的传闻后,才开始着手这一问题的。OpenAI 研究员 Sébastien Bubeck 在《Science》报道的一场新闻发布会上表示,这些传闻是“在 Twitter 上”看到的。“所以我们心想:‘我们的模型如此强大,为什么不试着也解决一个千禧年大奖难题呢?’”Bubeck 说。

OpenAI 表示,它后来才意识到传闻涉及的是 Alpöge 和 Buckmaster。除了回应 Buckmaster 关于其数据被使用的指控外,OpenAI 尚未公开回应他的其他说法,并在被要求置评时让 The Verge 参考其博客。Buckmaster 在其叙述中点名提到的 Bubeck 对其中的部分内容提出异议,否认自己曾要求 Buckmaster 将 Alpöge 从共同作者中移除。

即便撇开最具爆炸性的指控不谈,OpenAI 自己也直言不讳承认的某些行为方式已令数学家们震惊。这种明显想抢在他人之前发布成果的急切,在大多数情况下根本不是数学研究的做法。Saha 说,抢发确实存在,但并不容易。

他解释说,部分原因在于前沿研究往往需要极深的专业造诣,以至于即使有人想半路杀入,也很少有人具备这样的能力。

开放是这一学科根深蒂固的美德。“数学在很大程度上依赖于一种非正式的信任规范,”南卡罗来纳大学数学教授、计算机辅助数学推理研究所(ICARM)科研活动副主任 Matthew Ballard 说。“研究人员日常会与同事分享不完整的想法和进行中的工作,以打磨自己的思路。这种分享的前提是它不会演变成竞争,”他说。

卡内基梅隆大学教授、ICARM 主任 Jeremy Avigad 虽然无法就对话记录是否可能被访问置评,但他表示,仅仅是“AI 系统可能从我们的提问中窃取想法这一念头就令人不寒而栗”。数学家们习惯于畅谈自己的工作而不必担心被抢发。“如今,哪怕是最细微的提示,都可能足以让拥有充足计算资源的人派出一群智能体去解决那个问题,人们可能会更加谨慎。想到这可能如何改变研究环境,令人悲伤。”

“数学在很大程度上依赖于一种非正式的信任规范。”

OpenAI 不愿或无法说明其模型是否借鉴了其他数学家的工作,这加剧了该领域的不安情绪。“这是一个问题,”布朗大学教授 Brendan Hassett 告诉 The Verge,并补充说,“鉴于 AI 公司曾未经许可或未支付报酬就挪用受版权保护作品的历史,人们提出这些质疑是很自然的。”他说,公司“应当有义务兑现”聊天记录不会被用于改进其模型的保证,其中包括能够证明这一点。

接下来局势将如何发展尚不明朗。伦敦数学科学研究所研究员 Yang-Hui He 在北京参加会议期间撰文表示,他担心“大公司主导下的数学太过保密”。自称“对 AI 一直持乐观态度”的他承认,他担心数学可能正在退回到过去那种更保密的状态——当时数学依靠美第奇家族等富有家族的赞助而生存。

对大多数研究人员而言,情况可能不会有太大变化。Saha 猜测,像 OpenAI 及其竞争对手这样的公司愿意投入巨资解决的高价值问题终归有限。“你不会指望 AI 实验室对人们研究的多数问题都倾尽全力,因为那样得不到足够的曝光度。”

曝光度可能本来就是目的之一,这或许有助于解释为什么 OpenAI 明知这一问题与一位 Anthropic 研究人员有关联——即便他是独立行动——仍决定竞逐它。“对 OpenAI 来说,这显然是一场公关胜利,”牛津大学教授 Andras Juhasz 说。

但 Juhasz 质疑这种做法能持续多久,他纳闷这是否可能标志着 AI 公司参与研究数学的由盛转衰的开端——既然模型已经能攻克一些最重大的问题。他说,人类数学家之间也存在抢发,但 OpenAI 的所作所为表明,这种事可以发生在大得多的规模上。“突然之间,一万名数学家扑向你的问题,”他说。

这一切可能让 OpenAI 的公关胜利变成一场皮洛士式的惨胜。该公司再次证明其模型能够在数学的最前沿一较高下。但在此过程中,它似乎疏远了自己一直想要打动的那批人。