为什么影子AI可能是你最大的安全盲点

从无意中的数据泄露到充满错误的代码，以下是为什么你应该关注公司中未经授权的AI使用。

影子IT长期以来一直是企业安全团队的眼中钉。毕竟，你无法管理或保护你看不到的东西。但情况可能会变得更糟。人工智能的规模、覆盖范围和力量应该让任何IT或安全领导者都关注影子AI。

网络风险在可接受使用政策之间的黑暗空间中滋生。如果你还没有这样做，可能是时候照亮你最大的安全盲点了。

什么是影子AI？为什么现在关注？

AI工具成为企业IT的一部分已经有一段时间了。自2000年代初以来，它们一直在帮助安全团队检测异常活动并过滤垃圾邮件等威胁。但这次不同。自2023年OpenAI的ChatGPT工具取得突破性成功以来，该聊天机器人在头两个月就获得了1亿用户，员工们对生成式AI让生活更轻松的潜力感到惊叹。不幸的是，企业的反应较慢。

这造成了一个真空，沮丧的用户非常渴望填补。尽管无法准确衡量这种本质上存在于阴影中的趋势，但微软估计78%的AI用户现在自带工具工作。60%的IT领导者担心高管缺乏正式实施该技术的计划，这并非巧合。

像ChatGPT、Gemini或Claude这样的流行聊天机器人可以轻松地在BYOD手机或家庭工作笔记本电脑上使用和/或下载。它们为一些员工提供了减少工作量、放宽截止日期并让他们腾出时间从事更高价值工作的诱人前景。

超越公共AI模型

像ChatGPT这样的独立应用程序是影子AI挑战的重要组成部分。但它们并不代表问题的全部范围。该技术还可以通过浏览器扩展潜入企业。甚至是合法商业软件产品中的功能，用户在IT不知情的情况下开启。

然后是代理AI：下一波AI创新，围绕自主代理展开，旨在独立完成人类为它们设定的特定任务。如果没有正确的防护措施，它们可能会访问敏感数据存储，并执行未经授权或恶意的操作。等到有人意识到时，可能为时已晚。

影子AI的风险是什么？

所有这些都为组织带来了巨大的潜在安全和合规风险。首先考虑未经授权的公共AI模型使用。每次提示，员工都有可能分享敏感和/或受监管的数据。可能是会议记录、知识产权、代码或客户/员工的个人身份信息。输入的任何内容都用于训练模型，因此将来可能会反馈给其他用户。它还存储在第三方服务器上，可能位于与你的安全和隐私标准不同的司法管辖区。

这不会让数据保护监管机构满意。它还通过可能使聊天机器人开发商的员工能够查看你的敏感信息，进一步暴露组织。这些数据也可能被该提供商泄露或破坏，就像中国提供商DeepSeek发生的情况一样。

聊天机器人可能包含软件漏洞和/或后门，使组织无意中暴露于针对性威胁。任何愿意为工作目的下载聊天机器人的员工都可能意外安装恶意版本，旨在从其机器窃取机密。有许多专门为此目的设计的虚假生成式AI工具。

风险不仅限于数据暴露。例如，未经授权使用工具编码，如果输出未经适当审查，可能会在面向客户的产品中引入可利用的错误。即使使用AI驱动的分析工具也可能有风险，如果模型在偏见或低质量数据上训练，导致有缺陷的决策。

AI代理也可能引入虚假内容和有错误的代码，或在人类主人不知情的情况下采取未经授权的行动。这些代理操作所需的账户如果其数字身份未得到安全管理，也可能成为劫持的热门目标。

其中一些风险仍然是理论上的，有些则不是。但IBM声称，去年已经有20%的组织因涉及影子AI的安全事件而遭受破坏。据计算，对于影子AI水平高的组织，这可能使平均违规成本增加高达67万美元。与影子AI相关的违规可能造成重大的财务和声誉损害，包括合规罚款。但基于错误或损坏输出做出的业务决策可能同样具有破坏性，甚至更糟，特别是因为它们可能未被注意到。

照亮影子AI

无论你采取什么措施应对这些风险，将发现的每个新影子AI工具添加到"拒绝列表"是不够的。你需要承认这些技术正在被使用，了解使用范围和目的，然后制定现实的可接受使用政策。这应与内部测试和对AI供应商的尽职调查齐头并进，以了解某些工具中存在安全和合规风险的地方。

没有两个组织是相同的。因此，围绕企业风险偏好制定政策。在禁止某些工具的地方，尝试提供用户可以迁移到的替代方案。并为员工创建一个无缝流程，以请求访问你尚未发现的新工具。

将此与最终用户教育相结合。让员工知道使用影子AI可能面临的风险。严重的数据泄露有时以企业惰性、数字化转型停滞甚至失业告终。考虑网络监控和安全工具，以减轻数据泄露风险并提高AI使用的可见性。

网络安全始终是降低风险和支持生产力之间的平衡。克服影子AI挑战也不例外。你工作的很大部分是保持组织安全和合规。但也要支持业务增长。对许多组织来说，未来几年的增长将由AI推动。