一次执行得当的蛇油技术评估

在英国政府与加密技术斗争的第无数次尝试中，内政大臣Priti Patel于2021年9月推出了"安全技术挑战"计划。该计划向五家公司各提供8.5万英镑，用于开发"创新技术，在端到端加密消息服务中保护儿童安全"。负责评估成果的是REPHRIN项目，这个获得700万英镑资助的联盟旨在解决网络危害问题。

安全技术挑战的本质问题

端到端加密（E2EE）的核心在于：除了发送方和接收方外，任何人都无法获知加密信息的内容。无论是最后一位是0，还是消息是否包含儿童性虐待材料（CSAM），在数学上都是不可能检测的。最终的REPHRAIN报告确实指出"没有关于在E2EE中防止CSAM的计算工具的已发表研究"。

从技术角度而言，所谓的"在E2EE背景下"实际上并不存在：消息在即将加密（发送端）或刚刚解密（接收端）时都是不可知的，在这之间无法进行任何有意义的操作。任何可开发的技术都与调用时机无关。

客户端扫描技术的局限

在E2EE背景下实现检测和阻止目标的常见解决方案是采用客户端扫描（CSS），无论是在E2EE的发送端还是接收端。在服务器端进行此类操作将破坏E2EE特性。Apple曾在2021年8月为iPhone提出CSS方案，但在几周的负面报道后无限期暂停，涉及该方法不明确或不受欢迎的副作用。

在安全技术挑战资助的五个项目中，有四个项目（GalaxKey、SafeToWatch、Cyacomb和T3K）初步描述都采用了客户端扫描。只有DragonflAI承诺了可证明不可能实现的目标：“允许在E2EE中同时检测裸体和年龄”。

评估标准与技术挑战

REPHRAIN团队采用社区方法评估这些项目。评估草案标准于2022年3月发布征求意见，社区有两周时间回应。修订后的标准于7月发布，并包含在最终评估报告中。

评估团队面临的最大挑战之一是仅基于不足的技术信息进行评估。技术行业通常产生的"白皮书"达不到学术论文的同行评审标准，特别是往往避免证实总是包含的成功声明。REPHRAIN团队只能获得报告和进展文档，无法访问代码或进行测试。

技术评估发现

尽管在竞赛现实性和评估技术输入方面存在严重限制，REPHRAIN团队还是提供了出色的评估。他们将自己的专业知识和对基础缺陷的认识应用到项目为评估揭示的有限信息中，包括专家对CSS和AI模型攻击的认识。

大多数项目缺乏意识，认为他们应该提供可接受的折衷方案，而不是对所有通信（图像和一些项目中的文本）进行全面监控并检查任何类型的不良材料。更广泛的比例性和必要性问题没有被任何项目解决。

技术局限性分析

没有一个项目能够声称可以可靠地处理新的CSAM。由于CSAM是高度敏感材料，即使在旨在打击它并声称高度保密性的项目中，获取它也存在伦理和法律问题。因此，Cyacomb仅基于识别互联网观察基金会的先前识别CSAM集合，这种方法已经被各种大型互联网公司使用，也支持了Apple的CSS方法。

其他项目使用可疑的CSAM代理：成人材料（SafeToWatch），或结合面部年龄估计的裸体检测（DragonflAI和TSK），这将导致高误报率以及（在没有面部的情况下！）漏报。

安全风险评估

除了这些反复出现的主题外，REPHRAIN团队还能够指出许多额外的安全风险，例如与必要通信相关的问题。

结论与建议

总体而言，REPHRAIN评估团队完成了出色的工作。在无法访问代码或实验数据的情况下，他们突出了所有这些项目在多个维度上的主要弱点。虽然他们慷慨地得出结论"这里报告的概念验证工具提供了减轻CSAM创建和防止其上传播前发布的背景是创新的"，但当在克服基于AI的CSS相关的技术和社会技术问题方面取得的成就很少时，这种"创新"似乎价值有限。

然而，这份报告在探索在线儿童安全技术的质量标准方面提供了极好的价值，强烈推荐阅读完整报告。