AI困境：新兴技术加剧网络安全风险

随着AI应用加速，企业面临日益增长的网络安全威胁——以及关于安全实施的紧迫选择。

AI正在从根本上改变现代世界。它为企业领导者提供了前所未有的机会来预测市场趋势并做出更明智的决策；使组织能够智能自动化日常流程，释放人才从事更高价值的工作；让公司能够以高度个性化的方式通过创新产品和服务触达客户。

AI也正在以新方式帮助网络防御者抢占先机——通过更全面地监控并更快地行动，在威胁被利用之前消除安全漏洞。

但机遇与风险并存。

AI本身已成为重要目标。该技术也正被越来越多地用于赋能威胁行为者发起更复杂的大规模攻击。

为深入了解，我们委托Sapio Research采访了全球不同规模、跨多个行业的2250名IT和/或网络安全决策者。研究发现，尽管大多数人已在网络安全中使用AI工具，且更多计划这样做，但多数人也担心该技术对其攻击面的影响。更多人担忧AI驱动的网络攻击。

AI作为业务赋能器

如果实施得当，网络安全并非业务领导者常认为的孤立成本中心或创新与增长的阻碍。相反，它可以成为强大的业务赋能器。成熟的网络安全态势可帮助组织：

• 建立客户信任并推动竞争差异化
• 为成功的数字化转型计划奠定基础
• 支持灵活工作，从而提高员工生产力并改善工作与生活平衡
• 如果当地法律法规要求更高水平的网络安全，支持扩展至新市场

同样，AI驱动的网络安全可以放大这些好处。受访者确实给人这种印象：81%已在网络安全策略中使用AI驱动工具，另有16%正在探索选项。此外，超过五分之二（42%）表示实施自动化或AI驱动工具是未来12个月改进网络安全的首要任务。

超过一半（52%）表示乐意将AI用于日常基本安全流程，如自动化资产发现、风险优先级排序和异常检测。这只是冰山一角。AI提供丰富能力以改进：

数据保护：AI可用于发现、分类和加密敏感信息，监控数据存储访问并在遭入侵时立即标记。

端点安全：AI可成为端点检测与响应（EDR）的关键组成部分——分析行为数据和上下文以检测和阻止可疑活动、恶意软件等威胁。

云安全：AI算法可为云环境做同样的事情，监控偏离“学习”基线的异常活动并提醒安全团队。

高级威胁狩猎：通过筛选大量网络数据，AI工具可在威胁行为者造成持久损害前发现他们。

身份和访问管理（IAM）：AI可使IAM更智能，基于击键和鼠标移动等多方面为个人创建独特行为档案。它支持持续认证以增强安全和零信任操作。

对攻击面的影响

尽管IT和安全领导者对AI变革网络安全的潜力持乐观态度，他们也担心该技术可能带来新风险。近所有（94%）受访者认为AI将在未来3-5年对攻击面管理（ASM）产生负面影响。

企业网络攻击面的大小长期是IT安全领导者的关切点，他们看到数字投资超过缓解升级风险的能力。现在他们担心新的AI工具可能使这项工作更难。担忧包括：

• 敏感数据暴露
• 数据处理/存储缺乏透明度
• 不受信任AI模型利用专有数据
• 合规挑战
• 更多端点和API需监控
• 影子AI或未经批准的AI

这不是详尽列表。事实上，OWASP有专门针对大语言模型（LLM）风险的Top 10。英国国家网络安全中心（NCSC）最近警告，如果开发人员急于将此类模型推向市场而未添加足够安全措施，它们可能特别易受攻击。最常引用的威胁包括提示注入、供应链攻击和数据投毒。这些可能导致敏感数据盗窃，以及操纵模型产生意外输出——可能破坏操作或启用更广泛的系统访问。

AI笼罩威胁格局

AI对全球组织构成多面威胁。不仅涉及AI系统本身对其攻击面构成的风险，还包括潜在的AI驱动攻击。超过一半（53%）受访者认为这些攻击的复杂性和规模将在未来急剧增加，需要新的网络风险管理方法。

NCSC已警告这一威胁，表示未来两年可能看到：

• 网络威胁“频率和强度”增加，包括侦察、漏洞研究与利用开发（VRED）、社会工程、基本恶意软件生成和数据外泄
• 更多威胁行为者使用AI即服务产品
• 网络攻击链更多部分自动化
• AI用于开发零日漏洞利用

保证与后续步骤

约44%受访者表示在考虑使用AI驱动安全工具前需更多了解该技术。鉴于他们对AI扩大攻击面的担忧，这是可以理解的。近一半（46%）目前通过定期评估和监控第三方供应商漏洞来管理攻击面风险；进行彻底安全评估。他们在采用该技术前肯定希望将这些检查扩展到AI安全供应商。

管理AI攻击面风险的其他步骤可能包括：

• 制定全面AI安全策略，纳入高级威胁建模、威胁狩猎、基于AI的风险评估、AI安全控制和详细事件响应计划。
• 确保AI训练数据的质量、完整性和可靠性，以使AI模型尽可能准确有效，并解决偏见问题。
• 实施行业标准AI安全框架和最佳实践，如来自NIST、MITRE、OWASP、Google和ISO的框架。
• 将AI安全与现有安全和网络安全流程集成，实现跨所有环境的无缝端到端保护。
• 进行定期员工培训和意识计划，创建AI安全感知文化。
• 持续监控、评估和更新AI模型，以检查和修复漏洞，并提高准确性、性能和可靠性。

更普遍地，组织应考虑更新安全策略以应对AI驱动攻击的升级威胁。AI安全工具可通过以下方式帮助：

• 分析大量数据以实时检测异常
• 扫描漏洞、错误配置和其他安全缺口
• 实时识别/缓解网络攻击
• 自动化威胁检测和响应工具以释放紧张的安全团队
• 利用最新威胁情报保持领先一步
• 通过协助安全分析师弥补安全技能差距

AI安全的机会，与AI整体一样，太大而不能忽视。但只有通过评估并采取措施持续管理相关风险，组织才能真正希望发挥其全部潜力。