Trail of Bits 凭借Buttercup系统挺进AIxCC决赛,展示AI漏洞挖掘与修复技术

Trail of Bits团队开发的网络推理系统Buttercup在DARPA AI网络挑战赛半决赛中表现卓越,成功实现对nginx等真实软件漏洞的自动发现与修复,以领先姿态晋级DEF CON 2025总决赛。

Trail of Bits 晋级AIxCC决赛

Trail of Bits已成功晋级DARPA人工智能网络挑战赛(AIxCC)决赛轮!我们的网络推理系统Buttercup在DEF CON 2024举办的半决赛中,从39支参赛队伍中脱颖而出,位列前7名。

竞赛概述

AIxCC半决赛采用基于真实软件的系列挑战,包括nginx、Jenkins、Apache Tika、SQLite和Linux内核。各队的网络推理系统(CRS)必须在严格的时间和资源限制下,自动发现并修复这些复杂代码库中的漏洞。

DARPA在DEF CON为竞赛打造了精心设计的AIxCC Village。未来主义城市景观“Northbridge”——被描述为“一个遭受黑客‘rat’围攻的未来网络城市”——成为这场高风险比赛的背景。AIxCC Village在DEF CON期间吸引了12,500名参观者。

DEF CON的AIxCC舞台邀请了网络安全和AI领域的领袖进行演讲,包括DARPA信息创新办公室主任Kathleen Fisher博士、谷歌安全工程副总裁Heather Adkins,以及关于“LLM的现代演进”和“竞赛如何推动创新”等行业专题讨论。这些环节为竞赛及其对网络安全的更广泛影响提供了宝贵背景。

Buttercup的表现

Buttercup在半决赛中表现异常出色,尤其在nginx环节主导了成就排行榜:

  • 首个成功修复nginx漏洞
  • 首个累计修复6个漏洞
  • 首个发现3个漏洞

我们的CRS在修复漏洞方面表现突出,修复漏洞的得分大约是仅发现漏洞的3倍。

竞赛亮点

竞赛采用基于成就的排行榜,显示哪些队伍“首个发现”和“首个修复”每个漏洞。这种评分系统为赛事增添了神秘元素,因为队伍只能看到部分整体情况。虽然我们不知道最终确切分数或有多少队伍在初始发现后找到了相同漏洞,但我们为Buttercup在成就板上的强劲表现感到自豪。

我们的CEO Dan Guido在比赛进行中实时发推,为社区提供见解并解读成就。

我们期待获得关于所有CRS在半决赛中表现的更详细信息。这些数据无疑将为所有参赛系统的优势和改进领域提供宝贵洞察。

我们很荣幸能与网络安全领域的一些最聪明头脑一同晋级。其他晋级DEF CON 2025决赛的队伍包括:

  • 42
  • b3yond
  • 6ugall_you_need_is_fuzzing_brain
  • Lacrosse
  • Shellphish
  • Team Atlanta
  • Theori

每支队伍在开发AI驱动的网络安全系统方面都展现了卓越技能。值得注意的是,Team Atlanta的CRS在比赛中发现了SQLite中的一个真实空指针解引用漏洞,展示了AIxCC的实际潜在影响。

展望未来

晋级决赛是一个重要里程碑,但我们的工作远未结束。明年,我们将完善和增强Buttercup的能力,为DEF CON 2025的决赛轮做准备。决赛前三名将获得重大现金奖励,冠军奖金为400万美元。

我们要感谢我们出色的工程师团队,他们将专业知识和热情倾注于创建Buttercup。我们也感谢DARPA组织这一突破性竞赛,推动AI驱动网络安全的边界。

请继续关注我们的AIxCC之旅的更多更新。自动化漏洞发现和修复的未来充满希望,我们很高兴能站在前沿。

更多关于AIxCC

  • DARPA: DARPA AI网络挑战赛证明AI驱动网络安全的承诺
  • CyberScoop: DARPA竞赛展示使用AI发现和修复漏洞的潜力
  • Axios: 美国创建AI安全工具竞赛内幕
  • NextGov: DARPA接近使用AI暴露网络漏洞
  • The Register: DARPA和ARPA-H向7支AIxCC半决赛队伍授予1400万美元,附带条件
  • Trail of Bits的Buttercup进军DARPA的AIxCC
  • 我们对AIxCC竞赛形式的思考
  • DARPA向Trail of Bits授予100万美元用于AI网络挑战赛
  • DARPA的AI网络挑战赛:我们参赛了!

对于有兴趣了解更多关于竞赛的人,AIxCC网站提供了一系列教育视频,包括在DEF CON拍摄的演讲和访谈。

如果您喜欢这篇文章,请分享: Twitter LinkedIn GitHub Mastodon Hacker News

comments powered by Disqus
使用 Hugo 构建
主题 StackJimmy 设计