人类数字孪生可能给攻击者带来危险优势

虽然这种新兴的冒充技术带来许多好处，但数字孪生也有若干缺点，包括在社会工程攻击中的使用。

人类数字孪生（HDTs）可以为医学研究、工程流程改进和漏洞识别提供更安全、成本更低的方式。但两位研究人员警告，攻击者也会发现采用这种快速发展的技术的优势。

HDTs基于人类个体的核心模式进行训练，从行为到心理特征，其虚拟化身可以模仿真实人物的外观和声音。威胁行为者滥用深度伪造的报告已经在增加，随着人工智能（AI）的进步使数字孪生更加逼真，这种威胁可能只会恶化。考虑到它们在社会工程攻击中的潜在用途，这一点尤其令人担忧。

根据中佛罗里达大学工业工程副教授Ben Sawyer博士和认知安全研究所执行主任Matthew Canham博士的说法，HDTs正在从根本上改变社会工程和影响行动的工作方式。在下个月拉斯维加斯的Black Hat USA会议上，Sawyer和Canham将详细阐述攻击者如何利用HDTs对受害者进行心理操纵。

攻击者如何使用HDTs？

需要澄清的是，深度伪造和HDTs并不相同，尽管存在一些重叠。深度伪造视频和图像通常使用多个视频和图像生成，但HDT是仅使用该人数据构建的人的虚拟克隆。HDT的目标是实现个性化模拟、监控和决策支持——因此它们通常实时运行，与深度伪造不同。HDTs还具有预测性。虽然虚拟会议中的深度伪造可能能够回答问题，但数字孪生将能够预测个体在该情况下会说什么或做什么，并相应地行动。

例如，对手可以使用潜在受害者的HDTs来开发高度个性化的攻击，并在联系真实目标之前测试不同类型的攻击，Sawyer和Canham解释道。

网络犯罪团伙和国家资助团体都已经成功地在社会工程攻击中使用深度伪造来窃取敏感信息，因为这些视频和图像对受害者来说显得非常逼真。现在，员工还应该关注HDTs模拟特定个体行为的能力，Sawyer和Canham警告道。虽然防御者正在研究识别深度伪造的方法，但在虚拟会议中将某人识别为数字孪生更加困难，甚至几乎不可能，他们表示。

“这允许完全不同的攻击向量，例如，以人为中心的系统数字孪生，攻击者可以分析整个组织的员工，并找到基于分布式社交、经验和培训的，或全新类型的漏洞，”他们说。“还有知识提取和认知数字孪生的世界，它们复制了个体的技能。”

将冒充提升到新水平

另一个担忧是，由于过去几年多次大规模数据泄露导致大量敏感和个人数据被倾倒和可用，HDTs如何对个人构成新的风险。

“你的社会安全号码被盗的泄露被视为‘身份盗窃’，但它能与你的声音、举止以及关于你过去与他人互动的详细信息被窃取的泄露相比吗？”Sawyer和Canham问道。

不出所料，许多人已经在使用HDTs，研究人员说。一位社交媒体影响者Caryn Marjorie向粉丝收费以与她的虚拟人格CarynAI互动，而NBA明星Carmelo Anthony使用HDT进行粉丝互动。营销影响者Mark Schaefer还基于他的著作、播客和数字举止构建了一个名为“Markbot”的数字孪生。Sawyer和Canham甚至构建了Scotobot，美国最高法院首席大法官John Roberts的HDT，他们将在Black Hat会议上展示。

“Zoom已经表达了为我们所有人构建HDTs的愿望，能够作为代理参加会议，”他们说。“这项技术正在快速到来。”