重构AI冒充时代的身份认知

数十年来，商业信任始终建立在简单的人类直觉之上。当我们看到熟悉的面孔或听到可信的声音时，会本能地认为正在与真人互动。这种假设如今已变得危险。

从噱头到武器：深度伪造的演变

过去18个月间，深度伪造已从网络恶作剧演变为成熟的网络犯罪工具。财务团队曾在视频会议中被冒充高管的骗子欺骗，导致数百万资金被转移；佛罗里达州国务卿身份遭冒用联系外国部长；甚至法拉利CEO也成为欺诈未遂的冒充目标。这些并非边缘案例，而是未来威胁的预演。

损失不仅体现在金钱层面，更体现在信任侵蚀。当我们无法再相信所见所闻时，数字信任的基石便开始崩塌。

生成式AI（GenAI）使欺骗技术变得平民化。过去需要专业实验室和强大算力的技术，现在仅需应用软件和笔记本电脑即可实现。从网络研讨会截取的音频片段，或社交媒体上的几张自拍，就足以创建可信的声音或面容。

高德纳研究显示：43%的网络安全负责人至少经历过一次深度伪造语音通话，37%在视频通话中遭遇过深度伪造。技术质量持续提升，攻击数量加速增长，技术门槛已彻底瓦解。

供应商并未坐视不管。语音识别提供商正在平台中嵌入深度伪造检测功能，通过神经网络评估通话者是否为合成声音；面部识别系统则增加活体检测、元数据检查和设备遥测等多重验证。这些发展虽有必要，但远不足够。

检测始终是被动响应。对上月伪造内容的准确识别无法保证对本周新威胁的防护。系统返回的是风险评分而非确定性判断，这使得机构需要基于不完美的信号大规模决策：该信任谁？该质疑谁？

迄今损失最惨重的深度伪造事件并非绕过了机器防御，而是欺骗了人类。在压力下的员工常被要求快速行动：“转账资金”、“重置我的多因素认证”、“加入临时视频会议”。配合可信的面容或熟悉的声音，犹豫往往瞬间消散。

CISO和安全风险管理者需要采取务实方案：绝不应让员工处于单次通话就能触发灾难性操作的位置。涉及资金或权限的紧急请求必须附加额外验证。

这并非阻碍业务效率，而是构建韧性防御。询问仅本人知晓的问题、通过独立渠道升级敏感请求、或在审批前强制要求防网络钓鱼的多因素认证——这些防护措施能阻止伪造转化为欺诈。有时最简单的技术反而最有效。

机构应当如何行动？答案在于将分层技术防护与强化的业务流程、健康的怀疑文化相结合：

以生物识别系统为例，分层方案包含：呈现攻击检测（捕捉摄像头前的伪造痕迹）、注入攻击检测（识别合成视频流）、以及来自设备或用户行为的上下文信号。实践中，检测到的可能不是深度伪造本身，而是其使用伴随的异常模式。

深度伪造的影响已超越企业损失范畴，正助长虚假信息传播，散布政治谎言，侵蚀公共机构信任。在某些情况下，真实影像反而被斥为“假新闻”，连真实性都遭到质疑。

各国政府已开始响应。丹麦与英国已引入或考虑立法，将制作传播色情深度伪造定为犯罪；美国新法规明确禁止未经同意的深度伪造媒体。这些都是重要进展，但法律本身难以跟上生成式AI的发展速度。

对企业而言，责任迫在眉睫且不可避免。CISO不能等待完美的监管方案，而应假设每次互动都可能包含欺骗，并据此设计安全体系。

我们已进入“眼见不为实”的时代。作为数字信任基石的身份认证，正被能够随意伪造的对手重新定义。通过结合技术防护与弹性业务流程快速适应的机构将有效抵御威胁，而那些停滞不前者面临的不仅是欺诈损失，更是内外信任的崩塌。

深度伪造无法通过单一工具或采购决策解决，它要求思维模式的转变：假设你面对的面孔或声音可能是伪造的，并据此设计安全防御。攻击者正在快速进化，问题在于防御者能否更快响应。

高德纳分析师正在本周于伦敦举行的“高德纳安全与风险管理峰会”上探讨数字身份与信任议题。