人工智能加速网络安全攻防:专家们夜不能寐的挑战

本文探讨了人工智能如何加速网络安全威胁的演变,包括深度伪造攻击、自动化漏洞利用以及人类行为漏洞。专家们强调防御措施滞后于技术发展,并呼吁组织加强准备和适应性策略。

Black Hat 2025:网络安全专家夜不能寐的挑战

在Black Hat 25大会上,我们向网络安全专业人士提出了一个简单的问题:什么让你夜不能寐?他们的答案穿透噪音,凸显出对不断演变的威胁、组织准备不足以及未来不确定性的紧迫担忧。但一个主题脱颖而出:人工智能正在加速一切。基础设施增长更快,攻击落地更迅速,防御者竞相追赶。

共识是:防御措施滞后,而风险持续加剧。

当机器比我们移动得更快时

人工智能正在迅速改变网络安全,既赋能防御者,也超级充电攻击者。根据IBM的2025年数据泄露成本报告,13%的组织报告了涉及AI模型或应用程序的安全事件;其中97%在泄露时缺乏适当的访问控制。

生成式AI等工具正在推动更快、更具说服力的钓鱼和社会工程活动。与此同时,防御者匆忙更新培训、政策和事件响应手册,以匹配变化的速度。

纽约市Gotham Technology Group的首席技术官Ken Phelan将这种加速视为一个基本的基础设施问题。

“我们创建资产的速度超过了我们管理它们的能力,”Phelan告诉TechRepublic。“基础设施世界移动得比合规更快。我们处于容器和自动化的世界中,而安全滞后。”

他将其描述为一个“速度问题”——组织被迫快速移动,但缺乏可见性和控制来安全地这样做。

这一挑战对加拿大安大略省C&R Software的InfoSec GRC负责人Rana Khurram来说至关重要。

“组织没有适当的指导或控制措施,”Khurram告诉TechRepublic。“深度伪造可能被用来冒充我们的COO,并欺骗会计团队释放资金。”

AI创新的速度正在将安全管理推向极限。

“从管理角度来看,”他补充道,“我们只是在努力跟上一切。”

面对未知:“不要恐慌,但要准备”

对于一些网络安全专业人士来说,最大的担忧是AI将带来什么的纯粹不可预测性。这种不确定性沉重地压在佛罗里达州Miramar的Claro Enterprise Solutions的IT安全经理Jared Currie身上。

“目前,这是影响的不确定性,”Currie告诉TechRepublic。“我们都有关于我们认为它将如何影响事物的想法,但我们的思维是有限的。我认为这将引入数据流和交互的新方式和途径。”

Currie表示,深度伪造既是工作场所威胁,也是具有政治和社会影响的更广泛担忧。尽管勒索软件仍然是一个紧迫问题,但他表示,AI的未知涟漪效应——从招聘需求到防御优先级——使计划变得更加困难。

他的建议是:不要恐慌,但要准备。

“担心未知没有意义。做你正在做的事情——保持你的深度防御,专注于你可以控制的事情。随着新技术的出现,准备好适应。”

最终,仍然是人们在犯错误

尽管围绕AI、深度伪造和自动化的讨论很多,但一个人提醒我们,网络安全中最古老的漏洞仍然是最持久的:人。

Embry-Riddle航空大学最后一学期的网络安全情报学生Joseph Resendes指出,用户行为是一个挥之不去且被低估的威胁。

“是人,”Resendes说。“行业中的很多人并不真正知道黑客使用的攻击类型。钓鱼邮件仍然通过,因为它们似乎来自老板或高管。有人点击试图提供帮助——就这样,他们启动了一个远程访问木马。”

尽管有技术控制措施来减少损害,但Resendes认为真正的问题是无法从过去的错误中学习。

“我们有机制来阻止员工犯错,但用户并不总是从中学习,”他说。“黑客喜欢利用这种缺乏知识的情况。”

Resendes的评论呼应了网络安全中的一个常见真理:无论工具变得多么先进,人为错误仍然是最易利用的差距之一。

comments powered by Disqus
使用 Hugo 构建
主题 StackJimmy 设计