5 Forrester关于AI安全的要点 | 趋势科技（美国）

根据与趋势科技首席营收官David Roth和Forrester副总裁兼首席分析师Jeff Pollard的讨论，生成式AI既被标榜为网络安全救星，也被视为前所未有的新威胁源。本文提炼了对话中的关键见解，帮助区分AI炒作与现实，并指导如何在工作场所中安全地使用AI。

#1 – 警惕AI炒作

生成式AI的炒作不仅源于对新事物的迷恋，还因为安全团队急需缓解压力。他们资源不足、技能短缺，面临不断增长和变化的威胁。尽管有人幻想完全自主的安全运营中心（SOC）由终结者式的恶意软件狩猎代理驱动，但当前的生成式AI系统仍需人工干预和监督。生成式AI非但未能神奇地解决技能短缺，反而可能在短期内因引入新的培训需求而加剧问题。文化也是一个因素：有经验的从业者可能很快学会新AI工具，但改变习惯并将其整合到工作流程中仍需数周或数月。

#2 – 抓住快速收益

安全团队可以快速从生成式AI中获益的一个任务是生成文档。行动摘要、事件报告等类型的文档制作繁琐耗时，但必须完成。生成式AI可以即时生成这些报告， freeing up安全从业者沉浸于更多事件和处理更多事件。一个注意事项是，安全专业人员需要良好的沟通技能来履行职责。AI生成的报告可以节省时间，但不能以牺牲专业发展为代价。

生成式AI还可以推荐下一步最佳行动，并查询现有知识库以比人类更快地提取可用信息。在这些情况下，关键是确保AI输出与组织的需求和方法论一致。如果定义的过程有七个步骤，而AI助手推荐四个，人工代理需要确保所有七个步骤都得到遵循——以实现预期结果，并确保所采取的行动符合公司政策和外部法规。无意的捷径可能导致严重后果。

#3 – 用AI更主动

生成式AI有潜力将“大数据问题”转化为大数据机会，通过识别攻击表面的变化和运行攻击路径场景，使安全团队比今天更加主动。虽然它可能无法准确预测会发生什么，但可以让安全团队领先于 otherwise 会溜走的威胁。这在实践中的有效性取决于组织对其系统、配置和当前状态的了解程度。如果有 gaps，AI也会有 gaps。不幸的是，这些 gaps 在今天很常见，即使在大企业中，数据和文档也记录在不同计算机上的多个电子表格中。

这指出了良好的、AI就绪的数据卫生和应用标准化数据管理方法的重要性。原材料越好，AI能做的就越多。

#4 – 注意影子AI

企业有合理的担忧，担心AI泄露敏感的公司或客户信息。这可能通过员工使用未经授权的工具或通过 sanctioned 企业软件发生，后者正越来越多地增强AI能力。过去，恶意行为者需要了解如何黑客入侵ERP系统以访问其中的未授权数据；有了AI，正确的提示可能 too easily 使相同信息可用。

企业需要保护自己免受员工影子AI和 approved AI工具的不当使用。他们在使用大型语言模型（LLMs）构建应用程序时也需要小心。底层数据需要与正在构建的应用程序、LLM本身和提示系统一起得到保护。

这些风险基本上归结为一组新问题：自带AI（bring-your-own-AI）问题、企业应用问题，以及产品安全或创新问题。每种类型都需要自己的保护措施，并影响CISO的责任——即使CISO不负责相关项目。

#5 – 你需要一个AI战略

影子IT应用狂热和云早期与当前AI状态之间有 helpful 的 parallels。虽然安全领导者称未经授权的应用为“影子IT”，但业务领导者和投资者将其使用视为“产品主导的增长”。安全团队很快 learned，他们无法禁止这些创新：任何试图 clamp down 的尝试只会将使用驱动到地下， where 事情根本无法管理。

安全团队需要接受并适应AI现实。即使它目前没有实现其最狂热拥护者的所有希望和梦想——即使遇到一些挫折——在两到三年内，AI将比今天成熟和强大得多。组织无法 afford 在采用后才尝试保护它。

这意味着机会就在现在，做好准备，制定以安全为导向的AI战略，学习技术，并为它真正起飞时做好准备。许多观察者认为，安全团队在云上措手不及，即使他们有充足的准备时间。鉴于AI的效力和复杂性，他们无法 afford 重复那个错误。

持保留态度，但认真对待

生成式AI可能尚未实现其变革潜力的炒作，但它在网络安全中仍有有意义的应用。它不会在短期内解决技能短缺，但可以减轻安全团队的一些负担，而且组织管理和维护其IT数据越好，AI随着时间的推移将能够检测甚至预防更多。通过从最近影子IT和云采用的经验中吸取教训，安全团队可以有效地为AI开始实现其更狂野梦想的那一天做好准备——并保持其企业安全。