如何识别恶意AI代理：在攻击发生前发现它们

作者：Alisdair Faulkner，Darwinium CEO兼联合创始人 | 2025年7月28日 | 4分钟阅读

评论

当今企业都知道自己面临人工智能欺诈问题——随着代理式AI的广泛部署，这场机器之间的战斗增添了全新维度。成功不仅来自于用AI对抗AI，更需要通过优化人员和流程来实现，首先要加强安全团队与欺诈团队之间的协作。

自动化防御至关重要。但考虑到钓鱼攻击和凭据攻击仍然如此成功，我们必须承认恶意代理通常会伪装成合法身份并获得访问权限。防御需要速度，但不能以阻碍在线商务为代价。这是老生常谈的困境：安全拖慢业务。只是现在，赌注要高得多。想象一个由恶意AI代理驱动的Mirai风格僵尸网络——这正是我们需要提前防范的威胁类型。

识别意图需要安全与欺诈团队整合

检测恶意代理最有效的方法之一是观察其行为方式。以下是支付和商务领域中区分良性和恶意代理的五点经验：

1. 行为分析与意图推断

如上所述，检测恶意代理的最佳方法是理解其意图。良性代理的行为往往模仿可信用户模式，而恶意代理通常会留下线索。代理意图的关键指标包括：

相关阅读：[CrowdStrike中断事件很糟糕，但本可能更糟]

• 会话序列：合法代理模仿自然用户流，恶意代理通常绕过典型浏览直接访问高价值端点（如登录或结账）
• 时间模式：突发性过多或未经授权的API调用表明恶意意图
• 上下文一致性：代理行为是否与同一账户或设备上的先前会话一致？

意图建模将检测脚本从"这个代理在做什么？“转变为"它为什么这样做？”

2. 行为身份关联

即使代理是新的，其行为也可以将其与已知信任或风险档案联系起来。通过分析旅程流、时间和购买行为，系统可以确定代理是类似于已知良性好客户还是欺诈者。需要跟踪的关键行为：

• 旅程模式：可信代理是否与敌对代理遵循不同的路径？
• 进展速度：代理是否直接跳转到结账或凭据输入？
• 入侵指标：是否有恶意软件或强制进入的迹象？
• 购买行为：购买模式是否与账户历史一致？

相关阅读：[ChatGPT、GenAI工具面临"提示中间人"浏览器攻击]

这种"数字身体语言"帮助系统超越静态ID，评估行为指纹。

3. 信号级完整性检查

恶意代理经常篡改设备或浏览器级数据以掩盖身份，而良性代理不会欺骗。欺骗指标包括：

• 声称的设备特征与实际不匹配（例如，移动设备报告桌面屏幕尺寸）
• 修改的浏览器头或TLS指纹
• 不一致的操作系统元数据

如果信号不匹配，系统（和人类分析师）应该仔细检查。

4. 代理归因与签名识别

就像恶意软件可以被指纹识别一样，代理框架和流量模式也可以。良性代理通常来自已知工具、验证域或具有可追踪凭据的企业工具。而恶意代理往往：

• 使用代理轮换或混淆
• 源自高风险ASN范围
• 缺乏一致的头部、令牌或会话标记

归因和聚类技术可以帮助团队在欺诈发生前早期标记基础设施级模式。

5. 实时风险评分与自适应响应

现代欺诈系统不采用二元方法，而是根据行为、上下文和风险指标实时评分代理。这使得响应更加细致，例如：

相关阅读：[流氓访问的隐藏威胁]

• 低风险：无摩擦允许
• 中等风险：插入升级挑战或被动验证
• 高风险：阻止、监控或转交人工审核

随着时间的推移，这些系统可以根据代理行为的演变进行调整，最大限度地减少良性代理的摩擦，同时对恶意代理更加严格。

6. 机器之战：人在环与持续学习

一些最有前途的防御措施使用AI代理来模拟和压力测试系统——自动优化检测规则和配置。标记的代理活动被路由给人类分析师进行审核、标记和训练。这种人在环模型使欺诈和安全团队能够：

• 审查边缘案例
• 识别误报
• 标记新的攻击类型
• 将洞察反馈到检测引擎

结果是形成一个持续的反馈循环，AI和人类专业知识相互提升。

也就是说，要使这种方法长期有效，欺诈和安全团队不能保持孤立。安全处理身份验证，欺诈监控交易行为。双方都需要对用户旅程有实时可见性，以确定AI代理活动背后的意图。一旦用户开始授权代理代表他们进行交易，我们将看到机器人大规模参与合法商务，这将改变游戏规则。

AI代理不仅仅是强化的自动化，它们正迅速成为强大的新收入生成渠道。因此，企业需要对代理授权和同意设置强有力的控制，这将重塑安全和欺诈流程。这是一个勇敢的新世界，在其中快速准确地确定AI代理的意图将至关重要。如果没有欺诈、安全、风险和DevOps团队之间的紧密协作，这是不可能实现的。

代理式AI的兴起意味着机器之间的战斗才刚刚开始。要赢得这场战斗，我们需要我们自己的代理——人类和机器——协同工作。

关于作者

Alisdair Faulkner
Darwinium CEO兼联合创始人

Alisdair Faulkner是Darwinium的CEO和联合创始人，这是一家网络欺诈预防初创公司，在旧金山、伦敦和澳大利亚悉尼设有全球办事处。在创建Darwinium之前，他共同创立并担任ThreatMetrix的首席产品官（后来被LexisNexis Risk Solutions以8.3亿美元收购）。他在网络安全领域拥有超过二十年的经验，职业生涯中长期热衷于分析和预防金融欺诈。Darwinium为大型B2C组织和市场、专用支付提供商、电子商务商店、银行和一些金融科技公司提供服务。