25 名菲尔茨奖得主发表公开信批评 AI 公司

包括陶哲轩、新晋得主邓煜在内的 25 名菲尔茨奖得主发表公开信《A Severe Misalignment of AI in Mathematics》，批评 AI 公司最近的所作所为。公开信称，“过去几个月 LLM 的数学能力有飞跃式提升，甚至达到了能解决数学领域重大悬而未决问题的地步。但各大 AI 公司仅仅将解决数学问题作为基准测试（Benchmark）推动的技术竞赛，却对数学这门科学以及整个数学界构成了伤害。AI 公司的目标与数学界的本质目标之间存在着严重错位（Misalignment）。”这是 AI 影响科学与创意行业乃至整个社会的对齐（alignment）危机的一个缩影。“最近几个月 AI 在解决重大数学难题上取得的突破甚至冲出数学界，登上了大众媒体的头条。然而解决问题仅仅是达成概念理解与深刻洞察这一核心目标的工具和替代指标。在 AI 浪潮中忽略这一点，无异于异化了工具，使其走向核心目标的对立面。事实上，以越来越快的节奏批量生产‘真/假’断言，非但无法为新思想注入生命力，反而可能毁掉孕育创新的沃土。AI 的解答往往发布得过于仓促，甚至没有留出足够时间去编写一份严谨且规范的论文，无法去提炼其中蕴含的新方法与新思想，也无法合理引用前人的相关工作。正如在所有创意行业中发生的一样，这引发了严重的归属权认定与学术剽窃问题。此外，如果没有心怀热忱的数学家去负责对其进行后续开发并融入数学规范体系，AI 所孕育的思想就永远无法真正获得生命，数学家之间至关重要的人际传递纽带也将断裂。” https://mathandai.org/