该文内容明确谈及了计算机技术,特别是聚焦于AI智能代理(Agentic AI) 的安全研究,因此根据您的要求进行翻译。
原文提及了一次在39C3混沌通信大会(Chaos Communication Congress)上的演讲,演讲标题为 “Agentic ProbLLMs: Exploiting AI Computer-Use and Coding Agents”,这直接关联到计算机技术的核心领域:AI安全、漏洞挖掘和系统安全。
演讲内容主要关于作者对智能体系统(agentic systems) 中存在的漏洞所进行的安全研究,并涉及了包含大量演示的 “Month of AI Bugs” 项目。这些研究主题直接关联代码编程、系统构建和安全测试,属于计算机技术的实质性探讨。
文章中提供了相关资料的链接,包括演讲视频(附带翻译选项)和幻灯片的PDF版本,进一步证实了其技术内容。
title: 自主AI代理的漏洞:利用AI的计算机使用与编码能力(39C3视频及讲稿) tags: [人工智能, 提示词注入, 大语言模型, 视频, 会议] authors: qife image: description: 本文介绍了在39C3混沌通信大会上关于“自主概率大语言模型:利用AI计算机使用与编码代理”的演讲。内容聚焦于对能够执行计算机操作和编写代码的AI智能体系统进行安全研究,揭示了其中的潜在漏洞,并展示了“AI漏洞月”项目中的多个演示案例。
今年能够参加在汉堡举行的39C3——电力循环大会真是太棒了。混沌通信大会再次充满了精彩的演讲、出色的人们、很棒的活动和支线任务——我甚至还有机会做了演讲!
你可以在 media.ccc.de 上观看带有翻译选项的演讲。 我也将英文版本上传到了“Embrace The Red”的YouTube频道。希望它有趣且有用。
这次演讲的标题是 “Agentic ProbLLMs: Exploiting AI Computer-Use and Coding Agents”,内容是关于我对智能体系统中的漏洞以及包含大量演示的 “AI漏洞月” 所进行的安全研究。
讲稿的PDF版本可以[在此处](PDF version of the slides is here.)获取。
期待下一届混沌通信大会。 祝大家返程平安,黑客愉快!
Johann.
参考资料
- 📄 [讲稿](PDF version of the slides is here.)
- 🎥 [CCC媒体 - 演讲](🎥 CCC Media - Talk)
- ▶️ [Embrace The Red 频道](▶️ Embrace The Red Channel)