大型语言模型（LLM）在生成数学证明方面展现出惊人能力，如有限时间爆破Navier-Stokes方程和提出准黎曼假设的证明，这预示着在科学和技术领域加速发现的潜力。然而，将LLM整合到STEM生态系统中是一个关键抉择：这要么是一个‘黄金时代’，LLM赋能新一代科学家，培养新专长，并保持开放协作的探索；要么是一个‘黑暗时代’，短期产出收益以牺牲独立人类科学活动为代价，将知识生产集中在少数手中，最终创造出与人类认知相异的知识。作者认为现实可能是两种情况的混合。一个关键挑战在于LLM难以将复杂的形式证明（如Lean）转化为可理解的自然语言——尽管它们可以生成数千行代码般的正确证明，但其自然语言渲染往往混乱，需要密集研究才能理解。这提出了一个根本性问题：如果人类无法理解这些证明，数学的价值除了基准测试LLM之外还有什么？数学深植于人类认知——从数、空间、时间 innate 概念到文化演变的系统——如果不谨慎把关，就有可能与人类的意义构建脱节。文章以八个要点结束，审视塑造这一结果的选择，并呼吁可操作的建议，以引导技术增强而非取代人类的数学洞察。
来源: Hacker News · 由HeadlinesBriefing整理摘要