生成式AI在诈骗中的应用
最新报告《诈骗GPT：生成式AI与欺诈自动化》揭示了生成式AI在诈骗活动中的角色。这份入门指南梳理了我们目前对生成式AI在诈骗中作用的认识，包括最高风险群体，以及使人们更愿意冒险、更容易受骗、更可能实施诈骗或成为受害者的更广泛经济和文化转变。
AI增强的诈骗不仅仅是金融或技术犯罪；它们还利用社会脆弱性——无论是短期的（如旅行）还是结构性的（如不稳定的就业）。这意味着除了技术解决方案外，还需要社会解决方案。通过研究诈骗者如何改变和加速他们的方法，我们希望表明防御这些威胁需要一系列文化转变、企业干预和有效立法。
标签： AI、报告、诈骗
发布时间： 2025年10月1日上午7:09
评论
KC • 2025年10月1日上午8:54
@Clive，你可能会对这个感兴趣。dAIsy，一个打击诈骗的AI机器人。英国公司O2将dAIsy的电话号码植入诈骗者呼叫列表中。她有所有时间谈论她的小猫。
诈骗者：别再打电话了，亲爱的，你这个愚蠢的——。 dAIsy：知道了，亲爱的。 O2：破坏诈骗者的一天，向7726报告诈骗号码。
Clive Robinson • 2025年10月1日上午11:27
@Bruce，所有人，
我刚刚在较早的帖子中写的评论基本上说明了需要立即停止的两个"社会转变"主要影响因素：
-
电子通信无法做到足够安全，因此不应用于个人和私人信息，这包括金融和医疗以外的更多内容。
-
普遍认识是，我们都应该意识到来自商业实体的任何"更便捷"的东西都是为了他们的"股东价值"，因此保证比需要的安全性更低。
因此，在制定有效立法要求金融机构运营更安全系统之前，人们应该停止使用它们，而不是允许它们削减成本，使得安全水平远低于：
- 面对面"亲自了解你的客户"
- 具有"安全验证"的墨水与纸张，不仅验证文件，还验证其中的每个交易