立场：AI锁定正在进行，我们必须做好准备

摘要

arXiv:2608.14565v1 Announce Type: new Abstract: AI safety research has mainly focused on two areas: technical alignment (ensuring AI systems produce human-aligned outputs) and the regulation of genera...

and that systems Lock human the for individual national safety

2026-08-18 1 阅读约1分钟阅读 Jaeho Kim, Seokhyun Lee, Jieun Lee, Changhee Lee

arXiv:2608.14565v1 公告类型：新摘要：人工智能安全研究主要集中在两个领域：技术协调（确保人工智能系统产生与人类一致的输出）和生成人工智能的社会影响的监管（包括失业风险和劳动力市场混乱）。然而，一个同样重要的维度仍未得到充分探索：依赖人工智能系统本身所固有的风险。在这篇立场文件中，我们认为人工智能安全研究应该解决人工智能锁定问题，即过度依赖人工智能系统导致人类技能下降、削弱人类独立运作的能力，并在人工智能系统不可用或受到损害时产生系统漏洞。我们强调，人工智能锁定是一种已经在个人、社会和国家层面出现的系统性威胁，这种威胁可能会因人工智能服务中断或地缘政治冲突而急剧放大。根据详细的场景，我们研究了人工智能锁定如何在多个层面上出现和升级，从个人技能萎缩到国家规模的基础设施故障。为了解决这个问题，我们提供了有关如何在各个级别减轻和应对此类风险的指南。我们认为，在这种依赖性变得根深蒂固甚至不可逆转之前主动解决人工智能锁定对于维护个人自主权和国家安全至关重要。

订阅66必读