蛇油评估的精妙实践

在英国政府与加密技术斗争的最新篇章中，内政大臣Priti Patel于2021年9月启动了"安全技术挑战"项目。该项目向五家公司各提供8.5万英镑，用于开发"创新技术以保护儿童在使用端到端加密消息服务时的安全"。负责评估成果的是REPHRAIN项目，该联盟获得了700万英镑资金来处理网络危害问题。

安全技术挑战的本质问题

端到端加密（E2EE）的本质在于，除了发送方和接收方之外，任何人都无法获知加密信息的内容——无论是最后一位是0还是消息是否包含儿童性虐待材料（CSAM）。REPHRAIN的最终报告确实指出，“目前没有关于在E2EE中防止CSAM的计算工具的研究发表”。

从技术角度来看，实际上也不存在"在E2EE背景下"这样的概念：消息在即将加密（发送端）或刚刚解密（接收端）时都是不可知的，在这之间无法进行任何有意义的操作；任何可以开发的技术都与调用时机无关。

客户端扫描的技术实现与风险

在E2EE"背景下"实现检测和阻止目标的常见解决方案是采用客户端扫描（CSS），无论是在E2EE的发送端还是接收端。在服务器端进行此类操作而不破坏E2EE特性是不可能的。苹果公司曾在2021年8月为iPhone提出CSS方案，但在几周的负面报道后无限期暂停，原因在于该方法存在不明确或不受欢迎的副作用。

在安全技术挑战资助的五个项目中，有四个项目（GalaxKey、SafeToWatch、Cyacomb和T3K）最初描述都采用了客户端扫描。只有DragonflAI承诺了可证明不可能实现的目标——“在E2EE中同时检测裸体和年龄”。

评估标准与技术限制

REPHRAIN团队采用了社区参与的方法来评估这些项目。评估草案标准于2022年3月发布征求咨询意见，社区有两周时间回应。修订后的标准于7月发布，并包含在最终评估报告中。

评估团队面临的最大限制之一是只能基于不足的技术信息进行评估。科技行业通常产生的"白皮书"达不到学术论文的同行评审标准，特别是往往避免证实总是包含的成功声明。REPHRAIN团队只能获得报告和进展文档，无法访问代码或进行测试。

技术评估的关键发现

尽管竞赛的现实性和评估提供的技术输入都存在严重限制，但REPHRAIN团队还是完成了一项出色的评估。他们将自己的专业知识和对基础缺陷的认识应用于项目为评估揭示的有限信息，包括专家对CSS和AI模型攻击的认识。

大多数项目都没有意识到，它们应该针对所有通信（图像和一些项目中的文本）的全面监控提供可接受的折衷方案，并将其检查为任何类型的不良材料，这是明显的极端解决方案。比例性和必要性的更广泛问题没有任何项目解决。

AI模型的技术挑战

大多数项目似乎也没有意识到，使用任何新评估的输入来进一步训练AI模型存在法律、伦理和技术（包括安全相关）问题。

虽然评估团队没有机会建立误报和漏报率或验证该领域的任何声明，但他们可以观察到开发人员通常没有准备好减轻误报：没有考虑可扩展性（鉴于基本率谬误），没有可审计性、透明度或对错误决策的潜在上诉。

结论与技术意义

总体而言，REPHRAIN评估团队完成了一项出色的工作。在无法访问代码或实验数据的情况下，他们从多个维度突出了所有这些项目的重大弱点。

虽然他们慷慨地得出结论：“这里报告的概念验证工具提供了减轻CSAM创建和防止其上传播放的背景是创新的”，但当在克服基于AI的CSS相关的技术和社会技术问题方面取得的成就甚微时，这种"创新"似乎价值有限，而标题中的"E2EE"在产品中和评估中几乎没有任何作用。

然而，这份报告在探索在线儿童安全技术的质量标准方面提供了极好的价值。