生成式AI在诈骗活动中的应用
新报告《诈骗GPT：生成式AI与欺诈自动化》揭示了生成式AI在诈骗中的当前作用。这份入门指南梳理了我们目前对生成式AI在诈骗中扮演角色的认知，包括最高风险的社群，以及使人们更愿意冒险、更容易受骗、更可能实施诈骗或成为受害者的更广泛经济和文化转变。
AI增强的诈骗不仅仅是金融或技术犯罪；它们还利用社会脆弱性——无论是短期因素（如旅行）还是结构性因素（如不稳定的就业）。这意味着除了技术解决方案外，还需要社会解决方案。通过研究诈骗者如何改变和加速他们的方法，我们希望表明防御这些诈骗需要一系列文化转变、企业干预和有效立法的结合。
标签：AI, 报告, 诈骗
发布时间：2025年10月1日上午7:09
读者评论精选
KC • 2025年10月1日上午8:54
@Clive，你可能会对这个感兴趣。dAIsy，一个反诈骗AI机器人。英国公司O2将dAIsy的电话号码植入诈骗者呼叫名单中。她有所有时间谈论她的小猫。
诈骗者：“别再给我打电话了，亲爱的，你这个愚蠢的——” dAIsy：“知道了，亲爱的” O2：破坏诈骗者的一天，向7726报告诈骗号码
Clive Robinson • 2025年10月1日上午11:27
@Bruce，所有人，
我刚刚在早期主题中写的帖子基本上说明了需要立即停止的两个"社会转变"主要影响因素：
-
电子通信无法做到足够安全，因此不应用于个人和私人信息，这包括金融和医疗以外的更多内容。
-
普遍意识是，我们都应该认识到，来自商业实体的任何看似"更方便"的东西都是为了他们的"股东价值"，因此保证安全性不如所需。
因此，在制定有效立法要求金融机构运营更安全系统之前，人们应该停止使用它们。而不是允许它们削减成本，使得安全水平远低于：
- 面对面"亲自了解你的客户"
- 墨水与纸张具有"安全验证"，不仅验证文件，还验证其中的每个交易
Cyber GOD • 2025年10月2日上午11:21
@Bruce，
当你自己知道AI是为了从毫无戒心的受害者那里赚钱而开发的骗局时，为什么你要把它强加给每个人？
如果你对计算机科学、逻辑、编码和该领域所有其他内容有任何了解（而施奈尔先生，你确实知道以上所有内容）——这就引出了一个问题：你为什么如此大力推广名为A.I.的骗局？一定是钱！
Clive Robinson • 2025年10月2日下午1:35
@ Cyber GOD，
关于"把AI强加给每个人，当你自己知道它是骗局时"
让我看看：
- 标题有"AI在诈骗中"
- 副标题有"ScamGPT"和"欺诈"
- 标签有"AI"和"诈骗"
实际上，这就是我们主持人写的全部内容。每一个都有"诈骗"在其中。
其余部分是从文章中剪切粘贴的（文章标题构成了本主题的副标题）。
因此，我可以论证@Bruce推动"诈骗"和"欺诈"比推动AI更多…
现在，如果你回顾这个博客，我一直对"当前AI LLM和ML系统"持悲观态度，而且我在使用时总是相当具体。我过去也解释过为什么所谓的"数字神经网络"（DNNs）不过是增强版的"数字信号处理"（DSP）。而当前调整"MAD权重"的transformer和类似ML正在将DNN变成"自适应滤波器"。
因此有趣的问题是：“它在过滤什么？“即它的频谱响应曲线代表什么。
我可以相当真实地说，它不是我们认可的任何推理，更不用说智能了。
我还指出，LLM和ML系统不仅有限，我们目前拥有的系统肯定比满是旧书的尘土飞扬的图书馆更接近智能。
使甚至尘土飞扬的图书馆对人类有用的是"人类元素”，即一个人思考问题/查询，另一个人搜索并呈现匹配记录。
在这方面，图书馆是一个有经验DBA的数据库。
这样的系统中的智能在哪里？
肯定不在书籍/期刊中，也不在它指向的索引和记录或使用它们的机制中。
智能在于提出恰当的问题，以及以合理和连贯的方式向提问者呈现记录的能力。
这是由人类执行的任务，而不是自动化，即使这个过程在大多数人看来是自动化的。这是因为他们看不到"问题的推理"也不见"搜索结果的理解和应用”。
今天恰逢我们现在称为"图灵测试"的75周年，按照最初表达的方式，它现在被视为"不可信"。问题是作为一个想法，它并非如此。因为它仍然是关于"人类判断"而不是"屏蔽方法的机制"，后者不出意料地不可信。关键在于，只要测试方法在当时的适当时期，测试将保持有效。
你会在这个博客上找到我关于能够通过两件事识别AI的评论：
- 它缺乏范围
- 它用营销语言说话
第一个不仅是令牌数量限制，还有长度限制。做一些基本计算来看为什么这总是一个问题并不难。
第二个是由于输入源。人们谈论原创性盗窃等。但现实是，在剥离互联网的早期，许多来源是相当可悲的"营销语言"。由于我不会深入的原因——为了简洁——那种风格被放大了。
因此，无论响应是在老式50波特电传打字机上嘎嘎作响，还是在看起来像变焦通话的东西上可视化，以某种性别歧视的诱人女孩/女人概念（参见YouTube垃圾，每天自动生成数千个这样的内容）。因为至少我们中有些人很快就会发现，其他人稍慢一些，但我们许多人会发现它并提出有效测试方法。
关键是"当前AI LLM和ML系统"实际上"不是骗局"，就像"锤子不是谋杀"一样。然而，它们是相当无用和低效的工具，对大多数人来说不太可能有任何实际用途。
它们在某些"基于规则"的任务上会相当有效。但这并不是由于"推理"或"智能"，实际上也不是其中任何一种的标志。
将它们视为玩某种接龙游戏的纸牌玩家。玩家洗牌，然后"发出牌"，直到游戏"完成"或"陷入循环"。当前的AI系统可以比人类做得更好，甚至可以更早识别"循环条件"。并且可以达到洗牌牌组中的"轻微模式"会说游戏失败的程度。
如果你想要类似的，国际象棋和围棋都是严格基于规则的，AI系统已经击败了最好的人类玩家。但嘿，即使是机械计算器，当数字超过我们小时候应该记住的表格时，基于规则也能比大多数人类更快获得结果。
这是一个重要的区别，人类可以通过记忆查找表击败基于规则的系统。
我不会深入讨论，但"专家系统"是80年代的AI，但它们实际上是一个作为网络的查找表，通过实际上是二进制的问题答案进行遍历。真正的问题在于提出可以限制为二进制或其他受限答案但覆盖所有可能性的"现实世界问题"。此外，人类有微妙的前馈机制。当医生问你问题时，他们通过你之前的答案和他们作为病人对你的了解来判断你当前的答案。上个世纪的计算机即使通过添加模糊逻辑也无法做到这些事情。
虽然不适合完整的医疗诊断和类似情况，但这绝不意味着专家系统作为工具是无用的。它们过去不是，现在也不是，并且即使今天也被塞进现实世界产品中，因为它们比通用LLM和ML系统快几个数量级，效率更高。
这意味着LLMs将有一个使用范围。就人类工作而言，这将取代或大幅增强基于规则的系统。想象它们取代法律图书馆或类似的税务法规图书馆。是的，许多律师和注册会计师会感到痛苦，但80年代末到90年代的速记员和音频打字员也是如此。同样，当前约1/3基本上是"人为工作"的工作也将如此。
这是否意味着会有大规模裁员，这更多地取决于人们而不是其他任何因素。如果他们能够：
- 在工作中重新技能或提升技能
- 搬迁或从事位置独立的工作
那么他们将生存下来。因为三件事将始终存在：
- 满足人类需求和欲望的创造性工作
- 无法自动化的人为工作
- 使用新工具及相关新技能的新型工作
哦，那些 desperate 寻找要考虑的事情的人…只需记住：
“人类总是想说话。”
这是作为社会生物的人类状况。这意味着它有影响，最明显的是：
“通信需要技术才能有效。”
诀窍是找出接下来会发生什么并领先一步。
例如，卫星电视和地面广播将在五年左右死亡或垂死。
知道这一点，并知道人类越来越渴望把臀部放在沙发上看广告，被所谓的节目内容打断…
他们将从哪里获得满足？
嗯，将通过两种方法：
- 固定使用光纤数据电缆
- 移动使用无线数据
在另外5-20年内，光纤数据电缆将主要是"回程"，无线数据小区将缩小到街道或房屋中的皮科和飞科。几乎每个用户设备都将是无线的。事实上，不是无线也不需要无线的设备将变成无线，仅仅是为了降低生产成本。毕竟，当WiFi或蓝牙设备的制造成本只有三分之一或更少时，为什么要在设备上安装按钮？
哦，还有另一个让你处于监视之下的借口…毕竟，了解你何时何地刷牙的知识值多少钱？而且不仅仅是你的牙科保险公司…
至于"成人玩具"，已经有我们无疑都感到有趣的"安全/监视"故事。
现在考虑WiFi马桶可能被用来做什么的乐趣（是的，WiFi马桶在日本已经是现实）。
问题是"数据太多"，关联太少。这是一个LLM-based AI系统可以"前端"完成的工作，通过在一个警察国家中寻找模式或更正确地说是反模式，这将最多在几十年内相当普遍，除非公民行动起来并制定非常非常强有力的立法来阻止"万物皆数据"的监视…