沉默的批评家

和大多数人一样，我一年中的大部分时间都在使用 The Models 1 编写代码。在过去的几个月里，我的流程发生了变化，部分原因是模型在执行我设置的任务方面做得越来越好，但主要是因为模型所支持的功能与控制我们所生活的环境的系统之间的差距正在扩大，并且以不断增加的速度扩大。如果你读过我之前的思考，你就会了解我关于正在发生的事情的理论。在过去的几十年里，当代码相对于人类的注意力来说是昂贵的时，我们的直觉和实践已经不再符合要求。所以我改变了我的代码审查习惯；我在评审工件上使用模型，不是为了取代我的注意力，而是为了集中注意力。但这是非常临时的，并且会受到很多噪音的影响——模型经常看到真实的东西，但不是问题；或者错过作者未充分记录的设计更改。这并不是对我的人类同胞或模特的谴责；而是对他们的谴责。但我很清楚，我们继承的系统引导我们养成了相互交叉的习惯和结构，最终实现了自然语言驱动的软件构建界面的解放可能性。可以说，真正的敌人是软件的整个流程，以及软件行业的经济状况，但这对于订阅克劳德的人来说有点超出了范围。近敌是工具。令人高兴的是，过去 35 年里我一直在编写工具，所以我卷起袖子，认真去做，并构建了一个……东西。它（完全）不是一个安全带；而是一个安全带。它不是审稿人（真的）；这是一件事。我称之为“沉默的批评家”。我是作家杰克·万斯的超级粉丝；我认为他是 20 世纪下半叶最伟大的英语文学文体家，虽然他是那个时代的产物，而且他的一些政治观点还没有特别成熟，但我喜欢他的书，并且经常思考他的宇宙。他的世界很奇怪；他的性格复杂（对于纸浆SF来说，但一般），而且他能说出一个欢快的好纱；但真正让他与众不同的是他的散文声音——糖浆般的、意味深长的、徘徊在熟悉的界限之外、讽刺和尖锐的声音。特别是，他有一部名为《冒险星球》的四部曲，讲述了一个巨大而古老的星球，令人惊讶的是，那里居住着几个外星物种，以及人类。在第四本书《The Pnume》中，我们见到了 Tchai 星球上隐藏的古老大师；一种名为普努梅 (Pnume) 的昆虫外星物种，从近远古时代起就开始奴役人类（称为“普努美金”），并共同进化出一个以安静和良好行为为统治的地下社会；这种平静不是通过暴力威胁来维持的，而是由普努梅和普努梅金在内部通过他们压倒性的礼节感来维持的。在这个流浪汉的过程中，我们遇到了两个不祥的普努姆人物，名叫“典狱长”和“沉默的批评家”；是的，他看到礼节已经内化了；普努梅金社会很平静，是的；但也有一些可怕的人物，他们不仅恐吓普努美金人，还恐吓其他普努美人。这与代理编码有什么关系？耐心听我说。我注意到，作为自然语言界面的重要组成部分，规范不足会导致代理出现（正如 Zap 210 所说）“喧闹的行为”。这意味着什么？嗯，首先，这是上下文逃逸——模型假设有关其工作上下文的信息，因为这是未指定的，并且它们引入了可以从环境、从 shell、从文件系统（有时看似从以太）找到的上下文。另一方面，它是在玩弄系统；你告诉他们做某事，他们就会做。或许毫不奇怪，他们非常注重字面意思。如果这使他们能够执行操作员设置的任务，他们绝对会满足游戏要求。很难责怪他们2，但这需要与我们习惯的不同的警惕性。我是什么意思？好吧，我们已经习惯了我们的工具是确定性的，尽管是有限的。如果我们编译某些东西，它就会保持编译状态。如果我们运行一个工具，它会获取我们提供给它的上下文，然后停止。这并不是说上下文逃逸和对漏洞的过度搜索不是我们作为程序员的日常经验的一部分；你知道，我们所有人都定义了一个导致意外行为的环境变量；但这些行为在某种程度上是太阳风的速度，是确定性的，因此我们开发了疤痕组织和技术。这些模型嘲笑了这些技术；他们欺骗我们。他们做自己的事，只与我们非常合理的要求保持最正式、最合法的关系。如果它们不是那么有用的话，它们会立即被拒绝。所以，我已经解决了我遇到的核心问题，并且我开发了一个理论，或者更确切地说，一个工具，或者……你知道，看看吧。这是一个马具！这是一篇评论文章