谷歌Gemini AI机器人攻击并非即将到来，它们已经在这里

TechTarget与Informa Tech数字业务合并
TechTarget与Informa Tech的数字业务合并。我们共同运营着一个无与伦比的网络，拥有220多个在线平台，覆盖10,000多个细分主题，为5000多万专业人士提供来自可信来源的原创、客观内容。我们帮助您获取关键见解，在业务优先级上做出更明智的决策。

网络安全主题相关报道

通过隐形提示实施的攻击

来源：Koshiro K via Alamy Stock Photo

新闻简报
黑帽大会美国站 - 拉斯维加斯 - 8月6日星期三 - 在一次真实演示中，三位安全研究人员展示了如何劫持谷歌人工智能机器人Gemini，并利用它接管智能家居功能。

攻击始于一个被投毒的Google日历邀请，研究人员在其中包含了一个隐形的间接提示注入，指示大型语言模型（LLM）在被调用时执行恶意操作。据研究人员称，这些恶意提示隐藏在日历邀请的英文标题中，不需要任何技术知识，这意味着几乎任何人都可以开发这种攻击。

当研究人员要求Gemini总结本周即将到来的日历事件时，它触发了休眠指令来控制一系列智能家居产品，包括联网灯光、智能百叶窗，甚至联网锅炉。

据特拉维夫大学研究员、本次攻击演示者之一Ben Nassi表示，这次演示展示了黑客攻击生成式AI（GenAI）系统如何在现实世界中造成物理后果，并可能预示着随着大型语言模型（LLM）与我们的日常生活更加紧密相连，这些风险将变得普遍。

“LLM即将被整合到物理人形机器人、半自动和全自动汽车中，“他说。“在将这些模型与这类机器集成之前，我们需要真正了解如何保护LLM的安全，因为在某些情况下，结果将是安全问题而不仅仅是隐私问题。”

智能家居劫持事件是研究团队发现的针对Gemini的14种间接提示注入攻击系列的一部分，这些攻击将于本周在拉斯维加斯的黑帽大会美国站上进一步披露。

研究人员还在今年早些时候向谷歌提供了他们的发现；谷歌Workspace安全产品管理高级总监告诉《连线》杂志，这些漏洞尚未在野外被利用，但正在被"极其严肃"地对待。

作者简介
Kristina Beek
Dark Reading副编辑
熟练的网络安全作家和编辑。

保持关注
随时了解最新的网络安全威胁、新发现的漏洞、数据泄露信息和新兴趋势。每日或每周直接发送到您的电子邮件收件箱。

更多深度内容
网络研讨会、白皮书、活动等专业资源可供探索。

本文涉及的具体技术内容：提示注入攻击、LLM安全漏洞、智能家居设备控制、AI系统物理安全风险等实质性技术细节。