Inside DEF CON：Michael Brown谈AI/ML如何彻底改变网络安全

在DEF CON大会上，Trail of Bits的首席安全工程师Michael Brown与信息安全媒体集团（ISMG）的Michael Novinson坐下来讨论了AI/ML正在彻底改变安全的四个关键领域。以下是他们讨论的内容：

AI/ML技术超越传统软件分析的极限

在计算能力增长20年后，摩尔定律正在放缓，传统方法在发现、分析和修补漏洞方面的回报逐渐减少。然而，云计算和GPU使得一类新的AI/ML系统不再像传统方法那样受限。通过转向AI/ML或结合AI/ML与传统方法，我们可以取得新的突破。

利用AI/ML解决复杂的安全问题

在使用传统方法解决计算问题时，我们采用规定性方法——我们向系统输入算法，然后产生解决方案。相比之下，AI/ML系统是描述性的；我们向它们提供大量正确和错误的示例，它们通过自己的建模算法学习解决问题。这在我们依赖高度专业化的安全工程师解决复杂、“模糊"问题的领域特别有益，因为现在AI/ML可以介入。随着更复杂问题的增加，但缺乏足够的专业知识来解决所有问题，传统方法又力不从心，这一点至关重要。

保护AI/ML系统不同于保护传统系统

Trail of Bits的工程师一直在研究ML漏洞，包括数据和部署产生的漏洞，并发现影响AI/ML系统的漏洞与传统软件中的漏洞显著不同。因此，为了保护AI/ML，我们需要独特的方法，以避免遗漏大部分攻击面。因此，承认这些差异，并据此处理，在AI/ML系统开发的早期阶段加强安全，以防止代价高昂、持久的缺陷——避免困扰Web 2.0、移动应用和区块链早期迭代的不必要错误。

DARPA资助的项目（如AIxCC）将AI/ML应用于传统网络问题

DARPA的AI大网络挑战赛（AIxCC）挑战团队开发AI/ML系统来解决传统安全问题。我们团队的提交作品Buttercup是进入明年AIxCC决赛的七个决赛选手之一，将在其实时软件中自主检测和修补漏洞的能力上进行竞争。

总结

观看完整视频这里！

Trail of Bits处于将AI和ML整合到网络安全实践的前沿。通过参与像AI网络挑战赛这样的倡议，我们正在解决当今的安全挑战，同时塑造网络安全的未来。

联系我们了解更多：www.trailofbits.com/contact

探索我们的AI/ML资源：

• 漏洞和审计

  • Hugging Face
  • LeftoverLocals
  • YOLOv7

• 研究和博客

  • 利用pickle文件攻击利用ML模型：第一部分
  • 审计Ask Astro LLM问答应用
  • PCC：大胆前进，但并非没有缺陷

• 工具

  • Fickling
  • Privacy Raven

• AI安全与安全培训

如果您喜欢这篇文章，请分享：

• Twitter
• LinkedIn
• GitHub
• Mastodon
• Hacker News