首页 时政热点 科技头条 智能AI 安全攻防 数码硬件 开发者生态 归档 标签 关于
智能AI morning

建设性的协调:控制人机交互中的偏好动态

2026-07-02 1 阅读 约1分钟阅读 Max Kanwal, Caryn Tran
分享:
字号:
arXiv:2607.00001v1 公告类型:新 摘要:大多数人工智能对齐方法将人类偏好视为要推断和优化的固定目标。这一假设与大量的经验证据相冲突,这些证据表明偏好是分层的、动态的,并且是通过交互(尤其是与自适应技术)交互构建的。随着人工智能系统变得更加持久、个性化和融入社会,随着时间的推移,它们越来越多地参与塑造人们关注、重视和认可的内容。我们引入了建设性对齐,这是一种范式,它将对齐重新定义为对不断发展的人类偏好轨迹的控制问题,而不是静态的偏好满足。借鉴行为经济学、心理学和建构主义社会理论,我们将偏好建模为在与人工智能系统交互下演变的分层状态变量。我们使用控制理论框架来形式化这一观点,其中系统行为和交互设计共同影响世界状态和人类评估状态。我们认为,一致性主要不是控制人工智能行为,而是规范人工智能系统如何影响人类偏好的演变——确保价值轨迹保持连贯、经过反思地认可、有认知基础、不受操纵限制,并在不确定性下赋予权力。因此,协调成为管理长期价值形成的问题,而不是简单地满足静态偏好。
这篇文章对您有帮助吗?

订阅66必读

每日精选科技资讯,直达你的邮箱