AI对网络威胁的影响：从现在到2027年
关键判断
- 人工智能几乎肯定会继续使网络入侵操作的各个环节更加有效和高效，导致网络威胁的频率和强度增加
- 在能够跟上AI驱动威胁的系统与更脆弱的大部分系统之间几乎肯定会出现数字鸿沟，使得规模化网络安全在2027年及以后日益重要
- 假设网络安全缓解措施存在滞后或没有变化，到2027年关键系统更易受高级威胁行为者攻击存在现实可能性
- AI驱动网络工具的扩散极有可能将AI驱动的入侵能力扩展到更广泛的国家和非国家行为体
- AI模型和系统在英国技术基础中日益增长的应用，特别是在关键国家基础设施中，几乎肯定为对手提供了更大的攻击面
评估详情
AI增强网络入侵能力
网络威胁行为者几乎肯定已经在使用AI增强现有战术、技术和程序，包括受害者侦察、漏洞研究、漏洞利用开发、通过社会工程访问系统、基本恶意软件生成和处理外泄数据。到2027年，这将极有可能通过现有TTP的演进和增强来增加网络入侵的数量和影响，而不是创造新的威胁载体。
在近期，只有能够获得必要投资、高质量训练数据和专业知识的顶级国家行为体才能充分利用AI在高级网络行动中的全部潜力。大多数其他网络威胁组织几乎肯定会专注于使用或改造商业可用和开源的AI模型来提升其能力。
漏洞研究与利用开发
最重要的AI网络发展极有可能来自AI辅助的漏洞研究和利用开发，通过发现和利用底层代码或配置中的缺陷来访问系统。
到2027年，AI驱动的工具几乎肯定会增强威胁行为者利用已知漏洞的能力，增加对未更新安全补丁系统的攻击量。系统所有者已经面临在威胁行为者利用之前识别和缓解已披露漏洞的竞赛。从披露到利用的时间已缩短至数天，AI几乎肯定会进一步减少这一时间。
零日漏洞发现
对于能够微调AI模型或构建专门用于漏洞利用的自主AI系统的熟练网络行为者，AI极有可能在2027年前增强零日发现和利用技术。假设网络安全缓解措施存在滞后或没有变化，到2027年关键系统更易受高级威胁行为者攻击存在现实可能性。
自动化与规避
到2027年，熟练的网络行为者极有可能使用AI驱动的自动化来辅助规避和扩展性。完全自动化的端到端高级网络攻击在2027年前不太可能出现，但熟练的网络行为者几乎肯定会继续试验攻击链各环节的自动化。
商业扩散与犯罪利用
商业网络入侵部门几乎肯定会在提供的产品中整合AI。到2027年，随着AI在社会中更广泛采用，AI的犯罪使用极有可能增加。熟练的网络犯罪分子极有可能专注于绕过可用AI模型和AI驱动商业渗透测试工具的安全保障，使AI驱动的网络工具能够"作为服务"提供。
攻击面扩大
AI系统包括数据、教授和评估AI的方法以及使用它们所需的技术。AI技术越来越多地连接到公司系统、数据和操作技术以执行任务。威胁行为者几乎肯定会利用这一额外的威胁载体。
安全实践关键性
在提供市场领先的AI模型竞争中，存在开发者优先考虑加速发布计划而忽视安全考虑的风险，增加了来自受损或不安全系统的网络威胁。威胁还将通过不安全的数据处理流程和配置得到助长，包括：
- 使用弱加密传输数据，使其易受拦截和操纵
- 不良的身份管理和存储增加了凭据盗窃风险
- 收集大量用户数据，增加了去匿名化和启用针对性攻击的风险
在AI和连接系统的集成和配置中，基础网络安全实践将是缓解威胁的关键。使用AI系统的组织几乎肯定需要在其AI系统及其依赖项上维护最新的网络安全措施。
影响
到2027年及以后，AI几乎肯定会对关键系统、经济和社会构成网络韧性挑战，这些挑战范围从应对增加的攻击量、管理扩大的攻击面到跟上不可预测的AI网络能力进步和扩散。