VibeSec 的清算

VibeSec 反思 为什么提示你的 AI“安全”还不够，而实际上什么是“Vibe 编码”——非技术公民构建者使用生成式 AI 工具快速开发应用程序的做法，这显着加速了软件原型设计。然而，由于人工智能代理自然会优先考虑阻力最小的路径，因此它们经常推荐不安全的配置，从而在整个行业中造成系统性安全暴露。为了解决这个问题，我们需要编写一个安全上下文文件来指导人工智能，谨慎处理人工智能权限请求，创建每日安全情报源，并为构建者提供默认安全的工具和模板。 2026 年 5 月 27 日 Gautam Koul Gautam 是 Thoughtworks 全球营销人工智能应用主管。他领导 AI 平台计划和应用 AI 工程团队，专注于在整个 Google 生态系统中构建和扩展生产就绪、代币高效的 GenAI 应用程序。 Lucian Moss Lucian 是 Thoughtworks 全球营销部门的人工智能工程师，专门研究检索增强生成和代理系统。 Neil Drew-Lopez Neil 是 Thoughtworks 全球营销部门的人工智能工程师，专门从事数据工程、多代理系统以及新人工智能功能的研究。 Daberechi Ruth Edeokoh Ruth 是 Thoughtworks 全球营销部门的人工智能工程师，负责构建智能系统和人工智能代理，将复杂的数据转化为实用的见解和可扩展的现实解决方案。安全生成式 AI 内容 我们从惨痛的教训中学到了什么 风险背后的数字 真正的问题：提示不够 为何业务功能需要关注 短期习惯 中期解决方案 实践中的安全上下文文件 实践中的安全情报反馈 长期组织变革 结论：超越原型 Vibe 编码的扩展使非技术用户（或我们称之为公民构建者）能够使用 AI 构建他们以前根本无法构建的应用程序。当我们 Thoughtworks 全球营销部门的人工智能应用程序团队被要求扩展由全球营销部门的一位公民构建者构建的 Vibe 编码原型时，我们发现了严重的漏洞，导致 Vibe 编码应用程序无法安全投入生产。没有护栏的速度是任何团队都无法忽视的风险。接下来的故事讲述了我们的发现、它对使用人工智能进行构建的团队意味着什么，以及我们为确保我们发布的每一个工作流程、原型和应用程序都是我们可以支持的而采取的步骤。我们从惨痛的教训中学到了什么 全球营销部的人工智能应用团队被要求扩展一个由 Gemini、Replit AI 和 Claude AI 构建的视频组装原型，以创建供我们 10,000 名员工使用的品牌视频。团队遇到了两次停止工作的时刻。在这两种情况下，人工智能都建议了一条具有严重安全隐患的路径。在这两种情况下，人类都需要提出正确的问题才能抓住它。安全风险#1 公共存储访问 AI 建议将存储桶公开，或将云文件存储设置为“知道链接的任何人”。当受到质疑时，它通过说每家公司都这样做来证明这一点是合理的。只有坚决拒绝才会出现安全的替代方案。这可能会将敏感的未发布品牌资产和受众数据泄露到公共互联网。安全风险 #2 过多的令牌权限 服务帐户被分配了访问令牌创建者角色，使其能够创建短期令牌并访问远远超出任务所需的数据库和其他资源。团队在运行代码之前发现了这一点。这将允许受损的服务帐户在整个云工作空间中横向移动。这里的关键见解是人工智能工具通常会建议阻力最小的路径。这条道路并不总是安全的。人类的判断仍然至关重要，但它不应该是唯一的控制因素。目标是从第一个提示开始就为代理提供技术安全规则作为上下文，然后通过开发工作流程中的确定性检查来验证其输出，以便不安全的代码、权限、秘密或基础设施不会被忽视。风险背后的数字 44% 利用应用程序漏洞的攻击数量逐年增加，目前由人工智能生成的代码造成的企业违规事件中就有 1 起 50% 没有针对人工智能的敏感数据策略的组织 25% 已确认存在漏洞的人工智能生成的代码 这些事件并不是孤立的。 2026 年发布的研究证实，人工智能辅助快速编码会造成系统性安全漏洞。我们遇到的同样的风险现在正在整个行业中出现。查找统计源 AI 生成的已确认漏洞的代码 25% AppSec Santa，2026 年 利用应用程序漏洞的攻击同比增加 44% SQ Magazine AI 编码安全统计数据，2026 年 具有高或严重漏洞的代码库 78% Black Duck OSSRA 2026 没有敏感数据策略的组织