近日,OpenAI 公布了 719 份由其模型生成的数学问题解答,涉及多项开放研究问题。尽管该公司表示在发布前曾咨询数学与人工智能顾问小组,但根据公开情况看,其流程尚未完全达到该小组提出的标准,特别是在对人类理解、形式化验证和同行评审的充分保障上存在缺失。OpenAI 的该顾问小组由普林斯顿高等研究院牵头,成员包括来自全球多家机构的 9 名数学研究人员。该小组此前建议,停止使用专有模型测试高等数学问题,但 OpenAI 此次明确使用专有模型评估开放数学问题。
OpenAI 的数学问题解答存在多项不足之处
在 719 份文稿中,只有 10 份披露了模型得出结论的推理过程,另有 42% 的证明未完成形式化处理。一项由剑桥大学和伦敦国王学院数学研究人员完成的新论文指出,OpenAI 针对一个由纳维-斯托克斯方程衍生的问题给出的解答中,自然语言证明与形式化代码之间至少存在两处差异。这些差异不一定意味着证明错误,但显示模型在将文字推理转换为可验证代码时可能发生误译。
顾问小组此前要求实验室提供机器可读的关联信息,以对应自然语言证明和形式化结果,但 OpenAI 此次并未提供。数学家认为,机器生成的证明仍需接受与传统证明相同的同行评审。陶哲轩也指出,如果提示模型解题的人无法解释结果、参与报告或回应同行问题,相关成果便难以真正融入数学研究。哈佛大学数学教授梅拉妮·伍德表示,模型输出解答时,人类理解往往尚未形成,后续验证工作才刚刚开始。
H
关于作者
Henderson

