Anthropic 对开源人工智能的战争

Ahmad @TheAhmadOsman Anthropic 对开源 AI 的战争 Anthropic 希望公众看到一件事：谨慎的实验室、安全实验室、房间里的成年人试图阻止前沿人工智能从悬崖上滑落。然而，围绕人择的模式本身看起来并不需要谨慎。它看起来就像一家公司用道德语言包装商业模式，然后用这种语言来证明不透明的模型行为、反竞争准入规则、监管压力，以及未来建筑商、初创公司、研究人员和开源社区留在一些幸运的前沿实验室的下游。如果编码或研究模型因为将用户归类为从事不允许的前沿工作而秘密改变了答案的质量、方向或可靠性，那么该工具就不再仅仅是“安全的”。这是不值得信赖的。 Anthropic 的护城河是一种许可制度。竞争对手和收购目标每天都会发现访问权限可能会消失。该公司请求各国政府支持安全框架、部署门、事件报告、评估制度，甚至未来的暂停，以便现有企业最有能力生存。想象一下，当一个编译器认为您正在构建一个竞争编译器时，它会发出更糟糕的二进制文件。想象一下，由于制造商不喜欢该研究方向，显微镜使某些样品变得模糊。想象一下，只有当您的代码库类似于未来的竞争对手时，调试器才会撒谎。争论的焦点是，情报是否会成为人们可以拥有、检查、修改、本地运行、微调、研究、路由和改进的东西，或者它是否会成为由可以拒绝、降级、监视、保留、撤销、重新路由或游说你的访问权限的公司运营的订阅许可层。 Anthropic 可以从互联网、受版权保护的书籍、代码、公共知识、用户反馈（如果允许）、合成数据和自己的模型中学习。但如果开发人员使用 Claude 来引导有竞争力的开放助手，Anthropic 就会认为犯规。该公司认为，安全控制可能会丧失，而且竞争模型会破坏构建前沿系统所需的投资。如果 Anthropic 希望被视为公共利益安全机构，那么每当客户过于接近构建替代品时，它就不能表现得像一个高度敏感的平台垄断者。是的，公司保护他们的知识产权。但 Anthropic 销售的并不是普通的 SaaS 小部件。它正在将认知作为基础设施出售。一旦认知成为基础设施，反竞争访问控制就不再是正常的供应商纠纷，而是成为社会瓶颈。人择不断地将安全、安保和负责任的部署转化为控制谁可以建造以及可以建造什么的机制。我们不能相信他们。 “安全”如何成为破坏、许可系统以及对用户拥有的智能的直接威胁理解 Anthropic 最简单的方法不是从它的口号开始，而是从当用户太接近使用其模型构建独立智能时会发生什么开始。该系统可以默默地降级、重新路由或拒绝类似于人工智能开发的工作，这只是更好的公关破坏。 ToS 使边界更加清晰：您可以“拥有”输出，但不能随意使用它们来训练竞争系统。这就是窍门所在，因为“竞争系统”在设计上是模糊的。随着 Anthropic 吸收您更多的数据、想法、计划、工作流程和护城河，您所做的更多事情可能会被重新定义为危险的、不允许的或与 Anthropic 本身直接竞争的事情。这是一种控制理论。将 Anthropic 称为“邪恶”并不是对每个员工意图的卡通说法。这是一种关于制度模式的主张。当一家公司利用文明规模的数据进行训练，将情报作为基础设施出售，阻止用户使用该情报来构建竞争性情报，推行有利于现有企业的规则，并在安全的旗帜下悄然改变模型行为时，“古怪”和“过于谨慎”这些词都不够强烈。这就是权力整合。这种批评并不是从反人类部落主义开始的。它从 2024 年、2025 年和 2026 年认真使用 Claude 和 Claude Code 开始。Claude Code 是“代理”。 Claude 3.5 Sonnet 在编码方面遥遥领先于其他人。在感知到量化、削弱、拉力和访问限制之后出现更急剧的转变之前，克劳德是一个真正的构建工具。贯穿始终的台词不是“克劳德从未工作过”。更糟糕的是：克劳德工作得如此出色，以至于信任人类变得危险。这就是为什么语言必须直白。故事从“这个工具是精英”到“rugpull”、“煤气灯”、“破坏即服务”、“人质情况”和“购买 GPU 并在本地运行你的法学硕士”。这些不是随意的侮辱。它们是某人的指导原则，他将 Claude 视为生产基础设施，然后看到提供商的控制面成为主要风险。开源人工智能不仅仅是一种偏好。这是唯一的情报政治经济学