社交媒体告诉我们哪些关于人工智能累积风险的知识

arXiv:2610.24006v1 公告类型：新 摘要：重要的人工智能安全讨论强调存在的威胁和灾难性事件，例如人工智能引发的核冲突或工程生物爆发。本立场文件认为，人工智能的广泛使用会产生和积累另一种类型的人工智能风险。借鉴社交媒体的经验教训，我们认为安全评估还必须解决因重复使用、反复决策和互连部署反馈而产生的累积危害。反复的保证、选择性的曝光、反复出现的决策偏见和不断增长的个人资料可能会逐渐缩小视角，削弱独立判断力，或者在没有任何明显有害事件的情况下产生剥削性影响。我们提出了“轨迹忽视”论点：关注生动的灾难性事件和可识别的事件可能会忽视日常广泛使用人工智能所积累的不太明显的危害。社交媒体研究通过展示交互媒体效应、社会强化和个人易感性如何塑造个人遭遇之外的结果来推动这一立场。我们研究相关机制如何在人工智能系统中运作，使用对话式人工智能作为具体设置，其中生成、语义推理和持久记忆可以收紧反馈循环。阿谀奉承、操纵和隐私泄露提供了这些风险如何相互作用和累积的案例研究。这种比较确定了调查机制，而不是假设重复使用人工智能是有害的。因此，我们呼吁评估使用和部署的累积模式、个人和社会结果、仔细的因果推断以及适当的保障措施，以保留有用的帮助和知情的用户选择。