AI深度伪造诈骗激增：三个月内损失超2亿美元
2亿美元在三个月内损失…且数字可能持续增长
Resemble AI发布的《2025年第一季度深度伪造事件报告》描绘了一幅令人担忧的图景：深度伪造犯罪正在不断演变。通过分析2025年1月至4月期间的163起记录事件，研究人员发现诈骗者不仅追逐大额资金，还开始针对个人声誉和心理健康。
财务损失巨大。报告指出：“仅2025年第一季度，由深度伪造驱动的欺诈造成的记录财务损失就超过2亿美元。”而这些数字可能还会增长。
普通人成为主要目标
尽管名人和政治家仍占所有深度伪造受害者的41%，但Resemble AI的报告强调了一个焦点转变：普通公民现在占受害者的34%，其中教育机构和女性尤其脆弱。
研究还发现，非自愿的露骨内容占所有案件的32%，是所有用途中最高的，其次是金融欺诈（23%）、政治操纵（14%）、错误信息和虚假信息（13%）、身份盗用（10%）和其他目的（8%）。
这些合成视频通常用于报复、勒索或在线骚扰。受害者报告称遭受严重的心理伤害，而法律追索或平台问责有限。
单次深度伪造诈骗损失2500万美元
想象一下，在一次视频通话中，你的老板要求你转账，但实际上这是一个深度伪造。这并非遥不可及的情景。
2024年2月，新加坡一家公司因一名员工被深度伪造的首席财务官和其他高管冒充所骗，损失了2500万美元。该员工相信这是一个真实的请求，将资金转到了一个欺诈账户。
另一个令人震惊的案例是，一名来自朝鲜的深度伪造演员在2024年下半年骗取了网络安全公司KnowBe4的聘用。如果一家网络安全公司都能被欺骗，这表明这些伪造内容有多么令人信服。
深度伪造正在击败我们的防御
最新的深度伪造技术极其逼真。有些仅需3-5秒的语音音频就能以85%的准确度克隆一个人的声音。面部操纵现在如此精细，以至于68%的视频深度伪造无法与真实镜头区分开来。借助结合音频和视频的新工具，甚至实时对话也可以被伪造。
更糟糕的是，许多这些伪造内容被设计为避免检测，使得现有安全系统难以捕捉它们。
立法回应：美国通过《取下法案》
美国众议院以409票对2票的压倒性多数通过了《取下法案》，旨在打击真实和AI生成的复仇色情。这项两党法案已于2月在参议院一致通过。
该立法强制社交媒体平台和网站在受害者请求后的48小时内删除露骨内容，包括深度伪造。
第一夫人梅拉尼娅·特朗普也倡导该法案。在美国国会大厦，她将青少年的在线环境描述为“有毒”，据CBS新闻报道：“目睹年轻青少年，尤其是女孩，应对深度伪造等恶意在线内容带来的巨大挑战，令人心碎。”
众议院投票后，她表示该法案“有力地表明我们团结一致，保护我们孩子的尊严、隐私和安全。”
尽管Meta、TikTok和Snapchat等主要平台支持该法律，但数字权利组织警告称，如果没有适当的保障措施，这可能导致内容过度删除和取下工具的滥用。
全球警钟
随着深度伪造技术超越立法和执法，受害者往往被迫成为自己的调查员，花费许多人不具备的时间和金钱只是为了被听到。
尽管美国通过《取下法案》迈出了有意义的一步，但许多国家仍然缺乏足够的法律或执法。专家认为，对抗深度伪造的斗争必须是全球性的、多层次的，并且 deeply human，结合技术工具、政策改革和幸存者倡导。
对于企业来说，对我们所见所闻的信任不能再被视为理所当然。相反，公司必须采用“零信任”心态，通过多个独立渠道验证身份，并培训员工对即使是最令人信服的媒体也持怀疑态度。
员工教育现在至关重要。组织必须教导团队以曾经保留给可疑电子邮件或可疑短信的怀疑态度对待视频和音频内容。
组织防御：对抗深度伪造威胁的5个技巧
随着深度伪造变得越来越令人信服和易于获取，组织必须立即采取行动加强防御。以下是五个实用步骤：
- 使用零信任通信协议：对财务、人力资源或敏感请求，尤其是通过视频或音频提出的请求，要求多通道验证。
- 创建深度伪造事件响应计划：制定一个剧本，用于及时识别、升级和响应可疑的深度伪造攻击。
- 培训员工识别合成媒体：通过使用真实世界的示例和角色扮演练习，将深度伪造意识纳入常规网络安全培训。
- 保护高管媒体资产：限制对高管高质量视频和音频的访问，并为公共内容添加水印以减少滥用。
- 加强供应商和招聘检查：添加步骤，如实时人工面试或生物识别验证，以防止深度伪造冒充者混入。
深度伪造威胁不会消失——但通过正确的政策、培训和工具，组织可以保持领先一步。