仅使用人工智能 10 分钟可能会让你变懒变笨

卡内基梅隆大学、麻省理工学院、牛津大学和加州大学洛杉矶分校的研究人员进行的一项新研究表明，即使只使用人工智能聊天机器人 10 分钟，也可能会对人们的思考和解决问题的能力产生令人震惊的负面影响。研究人员要求人们通过一个在线平台解决各种问题，包括简单的分数和阅读理解，并为他们的工作付费。他们进行了三个实验，每个实验涉及数百人。一些参与者可以使用能够自主解决问题的人工智能助手。当人工智能助手突然被拿走时，这些人更有可能放弃这个问题或搞错答案。该研究表明，人工智能的广泛使用可能会提高生产力，但代价是发展基本的解决问题的技能。参与这项研究的麻省理工学院助理教授 Michiel Bakker 表示：“我们的结论并不是说我们应该在教育或工作场所禁止人工智能。” “人工智能显然可以帮助人们在当下表现得更好，这很有价值。但我们应该更加小心人工智能提供什么样的帮助以及何时提供。”我最近在麻省理工学院的校园里见到了巴克，他头发凌乱，笑容灿烂。他来自荷兰，曾在伦敦的 Google DeepMind 工作。他告诉我，一篇关于人工智能随着时间的推移可能会剥夺人类权力的著名文章启发他思考这项技术可能已经在侵蚀人们的能力。这篇文章读起来有些悲观，因为它表明剥夺权力是不可避免的。也就是说，也许弄清楚人工智能如何帮助人们发展自己的心理能力应该成为模型如何与人类价值观保持一致的一部分。 “从根本上来说，这是一个认知问题——关于坚持、学习以及人们如何应对困难，”巴克告诉我。 “我们希望对人类与人工智能的长期互动产生更广泛的关注，并在受控的实验环境中对其进行研究。”巴克说，由此产​​生的研究似乎特别令人担忧，因为一个人坚持解决问题的意愿对于获得新技能至关重要，并且还可以预测他们随着时间的推移学习的能力。巴克表示，可能有必要重新思考人工智能工具的工作原理，以便模型像一位优秀的人类老师一样，有时会优先考虑人的学习而不是为他们解决问题。 “提供直接答案的系统可能会与为用户提供支架、指导或挑战的系统产生非常不同的长期效果，”巴克说。然而，他承认，平衡这种“家长式”做法可能很棘手。人工智能公司确实已经考虑了他们的模型可能对用户产生的更微妙的影响。 OpenAI 试图通过新版本的 GPT 来淡化某些模型的阿谀奉承，或者说它们同意和惠顾用户的可能性。当工具的行为可能不符合您的预期时，对人工智能过于信任似乎尤其成问题。代理人工智能系统特别难以预测，因为它们独立地完成复杂的工作，并且可能会引入奇怪的错误。这让您想知道 Claude Code 和 Codex 对有时可能需要修复它们引入的错误的编码人员的技能做了什么。我最近得到了一个教训，认识到将批判性思维转移给人工智能是危险的。我一直使用 OpenClaw（内置 Codex）作为日常助手，我发现它非常擅长解决 Linux 上的配置问题。然而，最近，在我的 Wi-Fi 连接不断掉线之后，我的人工智能助手建议运行一系列命令，以调整与 Wi-Fi 卡通信的驱动程序。结果是无论我做什么，机器都拒绝启动。也许，OpenClaw 不应该简单地试图为我解决问题，而应该停下来教我如何自己解决问题。因此，我可能会拥有一台功能更强大的计算机和大脑。这是威尔·奈特 (Will Knight) 的人工智能实验室时事通讯的一个版本。在此阅读之前的时事通讯。