AI困境：新兴技术加剧网络风险

人工智能正在从根本上改变现代世界。它为企业领导者提供了以前无法企及的机会，可以预测市场趋势并做出更好的决策。使组织能够智能地自动化日常流程，释放人才从事更高价值的工作。并使公司能够以高度个性化的方式通过创新的新产品和服务触达客户。

它还在帮助网络防御者以新的方式抢占先机——通过更广泛地观察并更快地行动，在威胁被利用之前消除威胁并填补安全漏洞。

但机遇与风险并存。

AI本身已成为一个重要目标。该技术也被用于越来越多的用例中，使威胁行为者能够发起更复杂的大规模攻击。

为了了解更多信息，我们委托Sapio Research采访了2250名全球IT和/或网络安全决策者，他们来自不同规模和多个垂直行业的组织。我们发现，尽管大多数人已经在网络安全方面使用AI工具，还有更多人计划这样做，但大多数人也担心该技术对其攻击面的影响。更多人担心AI驱动的网络攻击。

AI作为业务推动者

如果做得正确，网络安全并不是一个孤立的成本中心，或对创新和增长的阻碍，正如企业领导者通常所认为的那样。相反，它可以成为一个强大的业务推动者。成熟的网络安全态势可以帮助组织：

• 建立客户信任并推动竞争差异化
• 为成功的数字化转型计划提供基础
• 支持灵活工作，从而使员工提高生产力，同时改善许多人的工作与生活平衡
• 如果当地法律和法规要求更高水平的网络安全，则支持扩展到新市场

基于同样的理由，AI驱动的网络安全可以极大地增强这些好处。这确实是我们的受访者给出的印象。事实上，81%的人已经在他们的网络安全策略中使用AI驱动的工具，另有16%的人正在探索选项。此外，超过五分之二（42%）的人表示，在未来12个月内，实施自动化或AI驱动的工具是改善网络安全的首要任务。

超过一半（52%）的人表示，他们乐于使用AI进行基本的日常安全相关流程，如自动化资产发现、风险优先级排序和异常检测。这仅仅是冰山一角。AI提供了丰富的能力，可以帮助改进：

数据保护：AI可用于发现、分类和加密敏感信息，以及监控对数据存储的访问，并在被入侵时立即标记。

端点安全：AI可以是端点检测和响应（EDR）的关键组成部分——分析行为数据和上下文以检测和阻止可疑活动、恶意软件和其他威胁。

云安全：AI算法可以对云环境执行相同的操作，监控偏离“学习”基线的异常活动并向安全团队发出警报。

高级威胁狩猎：通过筛选大量网络数据，AI工具可以在威胁行为者造成持久损害之前发现他们。

身份和访问管理（IAM）：AI可以使IAM更智能，基于击键和鼠标移动等各个方面为个人创建独特的行为配置文件。它支持持续身份验证以增强安全性和零信任操作。

对攻击面的影响

然而，尽管IT和安全领导者对AI改变网络安全的潜力持乐观态度，但他们也担心该技术可能使他们面临新的风险。近所有（94%）受访者告诉我们，他们认为AI在未来3-5年内将对攻击面管理（ASM）产生负面影响。

企业网络攻击面的大小长期以来一直是IT安全领导者关注的问题，他们看到数字投资超过了他们缓解升级风险的能力。现在他们担心新的AI工具可能使这项工作更加困难。他们的担忧包括：

• 敏感数据暴露
• 数据处理/存储缺乏透明度
• 不受信任的AI模型利用专有数据
• 合规性挑战
• 更多端点和API需要监控
• 影子AI或未经批准的AI

这并不是一个详尽的列表。事实上，OWASP有一个完整的Top 10专门针对大型语言模型（LLM）风险。国家网络安全中心（NCSC）最近警告说，如果开发人员在没有添加足够安全规定的情况下匆忙将此类模型推向市场，它们可能特别容易受到攻击。最常被引用的威胁包括提示注入、供应链攻击和数据中毒。它们可能导致敏感数据被盗，以及操纵模型产生意外输出——可能破坏操作或启用更广泛的系统访问。

AI在威胁格局中占据重要地位

AI对全球组织构成多方面的威胁。这不仅关乎AI系统本身对其攻击面构成的风险，还包括潜在的AI驱动攻击。超过一半（53%）的受访者认为，这些攻击的复杂性和规模将在未来急剧增加，需要一种新的网络风险管理方法。

这是NCSC强调的威胁，它警告未来两年可能看到：

• 网络威胁的“频率和强度”增加，包括侦察、漏洞研究和漏洞利用开发（VRED）、社会工程、基本恶意软件生成和数据外泄
• 更多威胁行为者使用AI即服务产品
• 网络攻击链各个部分的更多自动化
• AI用于开发零日漏洞利用

保证和后续步骤

约44%的受访者表示，在考虑使用AI驱动的安全工具之前，他们需要更多地了解该技术。鉴于他们对AI扩大攻击面的担忧，这是可以理解的。近一半（46%）的人目前通过定期评估和监控第三方供应商的漏洞来管理他们的攻击面风险；进行彻底的安全评估。在采用该技术之前，他们肯定希望将这些检查扩展到AI安全供应商。

为了管理AI攻击面的风险，其他需要考虑的步骤可能包括：

• 制定全面的AI安全策略，纳入高级威胁建模、威胁狩猎、基于AI的风险评估、AI安全控制和详细的事件响应计划。
• 确保AI训练数据的质量、完整性和可靠性，以确保AI模型尽可能准确和有效，并解决偏见问题。
• 实施行业标准的AI安全框架和最佳实践，如来自NIST、MITRE、OWASP、Google和ISO的框架。
• 将AI安全与现有的安全和网络安全流程集成，以实现跨所有环境的无缝端到端保护。
• 进行定期的员工培训和意识计划，以创建AI安全意识文化。
• 持续监控、评估和更新AI模型，以检查和修复漏洞，并提高准确性、性能和可靠性。

更一般地说，组织应考虑更新安全策略以应对AI驱动攻击的升级威胁。AI安全工具可以通过以下方式提供帮助：

• 分析大量数据以实时检测异常
• 扫描漏洞和错误配置以及其他安全漏洞
• 实时识别/缓解网络攻击
• 自动化威胁检测和响应工具以释放紧张的安全团队
• 利用最新的威胁情报保持领先一步
• 通过协助安全分析师来弥补安全技能差距

AI安全的机会，就像AI整体一样，太大而不能忽视。但只有通过评估然后采取措施持续管理相关风险，组织才能真正希望充分利用其潜力。