立场：不要只是“事后修复”：人工智能科学必须研究训练动态

arXiv:2606.06533v1 公告类型：新 摘要：对人工智能有一个科学的理解意味着什么？模型不是静态对象：它们是由数据、目标、架构和优化动态塑造的随时间演变的过程的快照。然而，许多人工智能研究将模型视为固定的工件，分析训练后的行为，而不是询问它们为什么会出现。这份立场文件认为，人工智能科学必须超越事后修复，并研究产生模型行为的训练动态。这样的科学应该支持逐渐更强的理解形式：根据早期训练信号预测结果，在轨迹出错时进行干预，并最终设计更可靠地产生所需属性的训练程序。缩放法则已使损失预测成为常态；挑战是将这种成功扩展到能力、偏见、鲁棒性和安全相关行为。我们阐明了对基于科学史和科学哲学的理论的要求，检查机械解释性、公平性、记忆性和简单性偏差方面的进展，并确定具体的开放问题。