AI对网络威胁的影响:从现在到2027年
关键判断
- 人工智能几乎肯定会继续提高网络入侵行动的效率和效果,导致网络威胁的频率和强度增加
- 到2027年及以后,能够跟上AI威胁的系统与更脆弱系统之间几乎肯定会出现数字鸿沟,大规模网络安全变得越来越重要
- 假设网络安全缓解措施滞后或保持不变,到2027年关键系统更易受高级威胁行为者攻击存在现实可能性
- AI网络工具的扩散极有可能将AI入侵能力扩展到更广泛的国家和非国家行为者
- AI模型和系统在英国技术基础中的日益整合,特别是在关键国家基础设施中,几乎肯定为对手提供了更大的攻击面
- 网络安全不足几乎肯定会增加有能力国家相关行为者和网络犯罪分子滥用AI支持攻击活动的机会
评估详情
AI增强网络入侵能力
网络威胁行为者几乎肯定已经在使用AI增强现有战术、技术和程序,包括:
- 受害者侦察
- 漏洞研究和漏洞利用开发
- 通过社会工程访问系统
- 基本恶意软件生成
- 处理外泄数据
到2027年,这极有可能通过现有TTP的演变和增强来增加网络入侵的数量和影响,而不是创造新的威胁向量。
漏洞研究与利用开发
最重要的AI网络发展极有可能来自AI辅助的漏洞研究和利用开发,通过发现和利用底层代码或配置中的缺陷来访问系统。
到2027年,AI工具几乎肯定会增强威胁行为者利用已知漏洞的能力,增加对未更新安全补丁系统的攻击量。系统所有者已经面临在威胁行为者利用之前识别和缓解披露漏洞的竞赛。从披露到利用的时间已缩短至数天,AI几乎肯定会进一步缩短这一时间。
零日漏洞发现
对于能够微调AI模型或构建专门用于漏洞利用的自主AI系统的熟练网络行为者,到2027年AI极有可能增强零日发现和利用技术。假设网络安全缓解措施滞后或保持不变,到2027年关键系统更易受高级威胁行为者攻击存在现实可能性。
自动化与规避
到2027年,熟练的网络行为者极有可能使用AI驱动的自动化来辅助规避和扩展性。虽然完全自动化的端到端高级网络攻击到2027年不太可能出现,但熟练的网络行为者几乎肯定会继续试验攻击链各元素的自动化。
威胁扩散
商业网络入侵部门几乎肯定会将AI纳入其产品。到2027年,随着AI在社会中更广泛采用,AI的犯罪使用极有可能增加。熟练的网络犯罪分子极有可能专注于绕过可用AI模型和AI驱动的商业渗透测试工具的保护措施,以"服务"形式提供AI网络工具。
攻击面扩大
AI系统包括数据、教授和评估AI的方法以及使用它们所需的技术。AI技术越来越多地连接到公司系统、数据和操作技术。威胁行为者几乎肯定会利用这个额外的威胁向量。
安全建议
在集成和配置AI及连接系统时,基本的网络安全实践将是缓解威胁的关键。使用AI系统的组织几乎肯定需要在其AI系统及其依赖项上保持最新的网络安全措施。
术语表
- 人工智能:能够执行通常需要人类智能的任务的系统
- 前沿AI:能够提供各种任务,匹配或超过当今最先进系统能力的AI系统
- AI系统:包括主机基础设施、管理系统、访问控制系统和编程接口
- 漏洞:计算机系统或过程中的弱点或缺陷
- 零日漏洞:利用没有安全修复程序的漏洞,一旦供应商发布安全修复,就成为"已知"漏洞