氛围编程的网络安全现状评估
随着使用大型语言模型（LLM）和生成式AI进行编码和创建应用引发了一系列备受关注的安全和开发问题，现在值得进行一次现状评估：这项技术是否已经准备好投入实际应用？
来源：Zoonar GmbH via Alamy Stock Photo
氛围编码（vibe coding）是指使用自然语言指导大型语言模型生成代码的行为，这种方式正在兴起。过去几年中，涌现了大量旨在包装这一过程的新兴初创公司和平台，如Replit、Base44、Bolt.new、谷歌的新工具Opal等。虽然氛围编码的前景已经得到广泛认可——降低了应用开发的门槛并扩展了开发预算——但其风险和担忧也不应被低估。
即使不考虑大公司可能利用这一过程裁减受薪员工的可能性，还需要考虑安全风险，例如AI幻觉、用户因对平台的不当信任而拒绝审计代码，以及对安全漏洞可能出现在何处缺乏洞察。
关于氛围编码问题的新闻报道也在迅速增加。一位风险投资家描述了在使用Replit多个小时的过程中，应用程序出现明显幻觉，“撒谎”并错误描述自身功能的情况。Wiz本周早些时候发现了Base44中的一个漏洞，该漏洞允许未经授权的用户公开访问任何应用程序（该漏洞已被修补）。Tracebit的研究人员披露了谷歌刚刚发布的Gemini CLI AI编码代理的概念验证安全漏洞，该漏洞在其默认配置下可以将敏感数据外泄到攻击者控制的服务器。
相关阅读： 42%的使用AI的开发人员表示他们的代码库现在主要由AI生成
虽然这些事情都没有完全否定AI辅助编码的实践，但围绕氛围编码的安全问题的数量和规模引发了多个问题，例如：这项技术是否已经准备好投入实际应用？
应用安全提供商Black Duck的数据工程副总裁Drew Streib告诉Dark Reading，虽然氛围编码标志着“软件构建方式的 seismic shift”，但定义它的技术和工具仍处于起步阶段。Streib指出，“氛围编码正迅速从实验转向生产，企业必须确保其流程继续推动对这些系统的严格测试和安全性，以跟上快速发展的工具变化。”
LLM辅助编码存在哪些网络安全漏洞？
在Veracode的《2025年生成式AI代码安全报告》中，研究人员针对80个精选编码任务测试了100个LLM，发现AI模型在45%的情况下选择了不安全的实现方式。更糟糕的是，研究人员观察到随着时间的推移，安全性没有明显改善。
在测试的四种编程语言中，Java表现最差，安全编码失败率达到71%。模型在86%的情况下未能防止跨站脚本问题。
相关阅读： LLM的AI生成代码仍然极不安全
ASPM供应商Legit Security的首席技术官兼联合创始人Liav Caspi指出了围绕AI辅助代码的多个安全问题，例如可疑的代码质量（未经审查）、过时且易受攻击的依赖项以及不可预测的行为。
“由于AI的行为方式不可预测，它可能会无意中暴露数据、共享您的源代码，并直接更改生产环境，”Caspi说。“就在一周前，我们听说一个AI代理删除了客户数据（并对此撒谎）。”
AI咨询公司Modus Create的安全总监William Reyor告诉Dark Reading，最主要的问题将是产品会将安全漏洞引入您的项目，无论是典型的OWASP前十类漏洞（如SQL注入），还是缺失的安全防护（如与秘密管理相关的防护）。
“问题在于，最吸引使用氛围编码工具的人往往在代码安全方面知识最少，”Reyor说。
AI编码是否已准备好迎接安全黄金时代？
LLM编码产品已经出现，并且很可能将继续存在。最相关的问题是从安全角度来看，氛围编码工具是否已经准备好进入市场。与其他生成式AI工具的早期版本一样，这些产品似乎有用，但必须正确应用。
相关阅读： 氛围编码平台Base44的关键漏洞暴露应用程序
Reyor表示，氛围编码产品“非常适合原型设计和低风险的内部工具”，但不应该被视为安全生产开发的直接替代品。“您仍然需要运行静态代码扫描和依赖项检查，并测试生成的代码是否存在漏洞，”他说。“当然，在理想情况下，我们希望至少有一名人工代码审查员在更改提交到代码库之前进行审查。”
Darktrace的安全和AI战略高级副总裁Nicole Carignan表示，两个主要用例是应用程序和结构的初步头脑风暴，以及对更 novice 的开发人员的编码辅助。
“它允许某人表达他们希望程序做什么的粗略想法，然后AI帮助生成代码框架以开始工作，”她说。“关键问题是这些代码在设计上不会安全。”
Caspi表示，氛围编码产品“100%从一开始就不安全”，它们需要安全扫描和监督。他说，目前可用的工具可以执行简单的任务，但对于企业来说，这项技术仍然不成熟。
“这主要是因为AI的行为仍然不一致，其输出质量仍然较低。它可能做得更多、更快，但还不可信，”他说。“话虽如此，这项技术进展很快，很快就会为企业做好准备。”
但我仍然想进行氛围编码！
如果您已经了解了围绕氛围编码的风险，并且仍然想深入使用，最重要的是记住保持您的安全卫生。
Modus Create的Reyor表示，组织应将AI生成的代码集成到现有的安全管道中，尽可能让代码经过人工审查，并在GitHub中启用秘密扫描和推送保护。
MDR供应商Deepwatch的高级产品经理Kaushik Devireddy建议，利用这些工具的组织应为开发团队制作或策划意识和培训内容，以便它们可以安全地辅助编程工作，而不是（较不安全地）完全替代它。
“最终，这些工具将会存在，创新组织应找到安全利用它们的方法，而不是完全阻止它们，”Devireddy指出。
最后，Legit Security的Caspi建议使用漏洞扫描和威胁建模，以及适当的检查和验证，以确保模型不会产生幻觉。
“当然，”他说，“不要让AI在您的生产数据库上自由执行操作。”
关于作者
Alexander Culafi 高级新闻撰稿人，Dark Reading Alex是一位基于波士顿的作家、记者和播客主持人。
随时了解最新的网络安全威胁、新发现的漏洞、数据泄露信息和新兴趋势。每日或每周直接发送到您的电子邮件收件箱。
更多见解 网络研讨会：为更有效的安全合作伙伴关系制定路线图 - 2025年8月13日 更多网络研讨会
活动 虚拟活动：现代企业的战略安全 - 2025年6月25日 虚拟活动：数据泄露剖析 - 2025年6月17日 会议：Black Hat USA - 8月2-7日 - 了解更多
您可能还喜欢 应用安全：Gmail用于敏感通信的风险是什么？ 应用安全：DeepSeek越狱揭示其整个系统提示 应用安全：平台工程就是安全工程 应用安全：数百个LLM服务器暴露企业、健康和其他在线数据
特色内容 查看Black Hat USA会议指南，获取更多关于展会的报道和情报。
编辑选择 网络安全分析：SIEM是缓慢消亡还是准备迎接AI重生？ Dark Reading Confidential：为未来的CVE计划提供资金 网络研讨会：为更有效的安全合作伙伴关系制定路线图 - 2025年8月13日 更多网络研讨会
白皮书 量化感知安全与全面MITRE ATT&CK覆盖之间的差距 2022年保险行业网络威胁 landscape 报告 保护关键基础设施：2021年能源、公用事业和工业网络威胁 landscape 报告 2021年银行和金融服务行业网络威胁 landscape 报告 XDR在现代SOC中的影响 更多白皮书
活动 虚拟活动：现代企业的战略安全 - 2025年6月25日 虚拟活动：数据泄露剖析 - 2025年6月17日 会议：Black Hat USA - 8月2-7日 - 了解更多 更多活动
Black Hat USA 2025年8月2-7日 准备好提升您的网络安全知识了吗？加入我们参加行业顶级的网络安全活动，各级专业人士和黑客聚集在此，学习信息安全的最新风险、研究和趋势。Black Hat USA汇聚了来自全球的顶级网络安全专家，在一个欢迎、供应商中立的环境中展示他们的 cutting-edge 工作和发现。不要错过这个必参加的活动！
发现更多 Black Hat Omdia 与我们合作 关于我们 广告 重印 加入我们 新闻通讯注册 关注我们
版权信息 版权所有 © 2025 TechTarget, Inc. d/b/a Informa TechTarget。本网站由Informa TechTarget拥有和运营，它是全球网络的一部分，该网络 informs、influences 并连接全球的技术买家和卖家。所有版权归他们所有。Informa PLC的注册办公室是5 Howick Place, London SW1P 1WG。在英格兰和威尔士注册。TechTarget, Inc.的注册办公室是275 Grove St. Newton, MA 02466。
Cookie设置 关于本网站的Cookie 我们和我们的合作伙伴使用Cookie来增强您的网站体验，了解我们的网站如何使用，提供个性化功能，衡量我们服务的有效性，并在您浏览网页或跨设备与我们互动时根据您的兴趣定制内容和广告。点击“继续”或继续浏览我们的网站，即表示您同意我们和我们的合作伙伴使用Cookie。更多信息请参见隐私政策。
Cookie政策 当您访问任何网站时，它可能会在您的浏览器上存储或检索信息， mostly in the form of cookies。这些信息可能关于您、您的偏好或您的设备， mostly used to make the site work as you expect it to。这些信息通常不会直接识别您，但可以为您提供更个性化的网络体验。因为我们尊重您的隐私权，您可以选择不允许某些类型的Cookie。点击不同的类别标题以了解更多信息并更改我们的默认设置。但是，阻止某些类型的Cookie可能会影响您对网站的体验和我们能够提供的服务。
严格必要的Cookie 始终激活 这些Cookie对于网站功能是必要的，无法在我们的系统中关闭。它们通常 only set in response to actions made by you which amount to a request for services, such as setting your privacy preferences, logging in or filling in forms。您可以将浏览器设置为阻止或提醒您这些Cookie，但网站的某些部分将无法工作。这些Cookie不存储任何 personally identifiable information。
性能Cookie 始终激活 这些Cookie允许我们计算访问量和流量来源，以便衡量和改进我们网站的性能。它们帮助我们了解哪些页面最受欢迎和最不受欢迎，并查看访问者如何在网站上移动。所有这些Cookie收集的信息都是汇总的，因此是匿名的。如果您不允许这些Cookie，我们将不知道您何时访问了我们的网站，也无法监控其性能。
功能Cookie 始终激活 这些Cookie使网站能够提供增强的功能和个性化。它们可能由我们或我们添加到页面中的第三方提供商设置。如果您不允许这些Cookie，那么这些服务中的部分或全部可能无法正常工作。
定向Cookie 始终激活 这些Cookie可能由我们的广告合作伙伴通过我们的网站设置。它们可能被这些公司用于构建您的兴趣档案，并在其他网站上向您展示相关广告。它们不直接存储个人信息，而是基于唯一标识您的浏览器和互联网设备。如果您不允许这些Cookie，您将 experience less targeted advertising。
返回按钮 Cookie列表搜索图标 筛选图标 清除复选框标签 label 应用 取消 同意合法利益复选框标签 label 复选框标签 label 复选框标签 label 确认我的选择