Ciaran Martin：人工智能可能打破攻击者与防御者的安全平衡

国家网络安全中心创始人在2025年欧洲信息安全大会上与Computer Weekly交谈，探讨人工智能如何可能打破攻击者与防御者之间的安全平衡

Ciaran Martin创立了英国国家网络安全中心（NCSC），并在2013年至2020年期间担任其首任CEO。他是一位杰出的前公务员，曾直接与五位首相以及三个政党的多位高级部长合作，并在英国财政部、内阁办公室以及GCHQ担任高级职位。

如今，他是牛津大学布拉瓦尼克政府学院的教授，也是牛津赫特福德学院的院士，他在那里攻读本科并学习历史。他还是英国CyberCX的主席，Paladin Capital的董事总经理，SANS CISO Institute的负责人，以及Garrison Technology和Red Sift的顾问。

在本月欧洲信息安全大会的一次会议上，他提前透露了一篇由牛津布拉瓦尼克学院发表的论文，探讨人工智能（AI）可能在多大程度上打破攻击者与防御者之间粗略的网络安全平衡。

他坚持认为，历史上这种平衡一直由三个原则主导。首先，涉及人类安全的计算机系统往往有故障保护机制，如空中交通控制系统。其次，最危险的能力仍然掌握在最有能力的行为者手中，他们往往具有某种理性和升级风险的意识，如冷战期间的苏联和美国领导人。第三，如果你能使用高级代码做坏事，通常也能用它来做（抵消的）好事。他的论点是，至少人工智能（AI）对第二和第三个原则提出了质疑。

在论文的概要中，他总结道：“数字安全平衡是一个有用的概念，如果我们希望理解为什么网络空间至今仍然是一个有害、有争议但并非灾难的地方。它可以保持这种状态，但这需要多年的持续努力和智能政策制定。而目前，最令人担忧的部分是新的行为者越来越容易获得强大的网络能力。”

他在与Computer Weekly在Infosec的谈话中更详细地讨论了这一点及其他问题。以下是该谈话的压缩和编辑版本。

问：您会认为我们安全的最大威胁是公司 simply 不愿意投资于网络弹性吗？

我越来越同情这种观点，但我不想对公司进行抨击。我认为公司大体上试图理性行事。

首先，过去有很多炒作，说会有越来越多的灾难。在某种意义上，这意味着人们会坐起来注意，特别是大企业等。另一方面，我认为这意外地有点幼稚化。当你我在冷战期间长大时，我们可能担心核末日威胁。

但我们也知道我们对此无能为力。如果你被告知有这种巨大的网络风险等等，你会想，“等等，我能做什么？这就是我向政府纳税的原因”。

我认为第二点是——虽然个人数据非常重要，其盗窃和滥用可能导致严重伤害——但我们必须平衡事物。我们生活在一个公司大体上遵守法律的国家，而迄今为止的法律平衡多年来在数据保护上非常繁重，在服务中断和弹性上非常轻。

我认为我们确实需要更多地激励弹性。玛莎百货是一个好例子。他们是一家管理良好的公司，在网络攻击之前一直做得很好。他们在网络方面并不是突然变得愚蠢或疏忽。你必须更深入地看。他们的激励是什么？他们被告知要做什么？法律要求他们优先考虑什么？而现在我们在想：弹性是王道。

问：在您的演示中，我得到的印象是您说人工智能意味着您所谓的“安全平衡”是否保持尚未决定。对吗？

我不认为人工智能给你任何神奇的新工具。有很多关于大红色按钮可以击落飞机等等的炒作。它并不真的那样工作。人工智能不会带你到那里，但它做的是大大降低做相当破坏性和坏事成本和其它进入壁垒。

但在能力战斗方面，我是乐观的。我认为人工智能在网络安全的巨大潜力可以使事情变得更好。例如，在漏洞扫描中，坏人做漏洞扫描以便利用[漏洞]，好人做以便修补。大体上，这必须对我们有利。

问：但这不归结于人吗？政府中约三分之一的网络安全专业人员是承包商，因为在招募和支付公务员他们在私营部门可以赚的那种钱方面存在真正问题

我的过去让我对这个问题有奢侈的解释，因为GCHQ非常擅长留住人。他们没有支付微软或Crowdstrike的薪水，但他们确实支付得多一点，而且使命是好的并激励他们。激励[网络安全专业人员]进入像工作和养老金部或HMRC这样的主要支付部门会有点不同。

话虽如此，我认为人真的重要。但我认为首先，作为用户的人非常重要，我们必须尝试给他们合理和有意义的东西来控制，而不是要求他们能够独自对抗俄罗斯人。

但我也认为有一种非常卡珊德拉式的关于技能的倾向。我在建立NCSC时被警告说它不会工作，因为组织或经济中没有足够的技能。但那里有伟大的人，和可再培训的人。你不需要那么多忍者。你需要层次。你需要精英防御单位，在政府和一些大公司中。我们需要良好的企业网络防御。我们需要网络精通的劳动力，并知道如何做基础工作。

问：经常有人说NCSC代表了一个根本转变。它是什么从什么转变到什么？

高调地说，如果你回顾这段历史，从Bletchley Park，计算和计算机安全，双方，偷猎者和游戏keeper方，都是主要全球大国和政府的保留地，就是这样——“加密战争”，所有那一切。

现在，GCHQ自1919年以来就有安全使命。但它是关于保护英国的军事和情报秘密——那些是任何人关心的唯一秘密。但随着大规模数字化，有一个转向开放。你不能在带刺铁丝后面，在没有手机访问的建筑物中保护经济。你 just 不能做它。你不能与人沟通，你不能给他们建议，你不能响应事件。

第二点是更积极一点。关于公私伙伴关系和信息共享，有很多被动性。所以，它是从秘密到开放，和从被动到主动。

问：我看到Jeremy Fleming [GCHQ前主任]在三月的Palo Alto Networks Ignite London活动上发言。他对观众（网络安全专业人员）的草率投票感到惊讶，显示他们相信AI优势在攻击者一方…而且随着更多波动性，网络安全专业人员往往更谨慎。但他仍然“ broadly 乐观地认为优势在防御者一方”，前提是保持技术部署的高速度和组织敏捷。您对此怎么看？他的惊讶可能 due to 他的国家安全背景吗？

我 broadly 同意他。在这个主题上有一种悲观倾向。客观地，谁有优势？现在还太早告诉，如[中国总理]周恩来据说[关于法国革命]说过。

但其次，它不必像这样。坏人有什么优势？根本上，鲁莽和缺乏道德。他们准备做我们可能不准备做的事，而且他们想造成伤害。所以对他们来说是不同的计算。但我们的优势是什么？嗯，首先，法治的稳定和涡轮增压创新的市场经济。他们没有建造任何这种技术。他们只是在用别人的技术作弊。

很多这是关于经济和商业气候。和监管和国家的姿态。你激励人们认真对待安全吗？如果你做，那么一家英国大公司会说：“我们富裕，我们繁荣，我们有点担心这个安全业务，所以我们要购买。而且有一整套真正创新的东西有市场，那么我们会赢。如果那都不工作，那么他们会赢。

对我们来说，在英国，我与Jeremy共享的是GCHQ的偷猎者和游戏keeper模型，这在五眼中常见，但在欧洲大陆不常见：那就是让攻击者和防御者在同一个地方，以便他们可以互相学习，等等。GCHQ主要是一个外国情报数字间谍机构，但许多在NCSC及其前身机构CESG为我工作的人专注于保护。

同样，建造技术的人是那些可以保护它的人，如微软。和[在美国国防层面]，安全设计被本届政府保持，我对此感到高兴。

阅读更多关于网络安全的攻击者与防御者

安全框架以确定防御者是否获胜：Black Hat 2024的一次会议试图回答或朝着回答这个问题迈进：防御者在获胜吗？ 本安全智囊团探讨需要识别、评估和监控以理解攻击路径。 范式转换如何改变攻击者和防御者的目标： disruptive 技术的使用正在改变攻击者和防御者为网络安全设定目标的方式。