一次精心执行的"蛇油"评估

在英国政府与加密技术斗争的第无数次尝试中，普里蒂·帕特尔于2021年9月发起了"安全技术挑战"计划。该计划向五家公司各提供8.5万英镑，用于开发"创新技术以保护儿童在使用端到端加密消息服务时的安全"。负责评估成果的是REPHRAIN项目，这个获得700万英镑资助的联盟旨在解决在线危害问题。

安全技术挑战的本质问题

安全技术挑战在智力上始终是不诚实的。端到端加密的本质在于，除了发送方和接收方之外，任何人都无法了解加密信息的内容。最终的REPHRAIN报告确实指出，目前"没有关于能够在E2EE中阻止CSAM的计算工具的研究发表"。

在技术层面，实际上也不存在"在E2EE背景下"这样的概念：消息对于即将被加密（在发送端）或刚刚被解密（在接收端）是不可知的，在这之间无法进行任何有意义的操作；任何可以开发的技术都对它们何时被调用是不可知的。

客户端扫描技术方案

在E2EE"背景下"实现检测和阻止目标的常见解决方案是采用客户端扫描，无论是在E2EE的发送端还是接收端。在服务器端这样做将不可能而不破坏E2EE属性。苹果公司于2021年8月为iPhone提出了CSS方案，在几周的负面报道后无限期暂停，涉及该方法不明确或不受欢迎的副作用。

在安全技术挑战下获得资助的五个项目中，有四个在初步描述中看起来采用了客户端扫描方案。只有DragonflAI承诺了可证明不可能实现的目标，即"允许在E2EE内同时检测裸体和年龄"。

评估标准的确立

REPHRAIN团队采用了社区方法来评估这些项目。草案评估标准于2022年3月发布征求意见，社区有两周时间回应。修订后的标准于7月发布，并包含在最终评估报告中。

草案标准包含了一个奇怪的短语"与客户端扫描相关的任何风险超出了本次评估的范围"。然而，REPHRAIN在最终标准中选择与E2EE的定义保持一定距离，他们对CSS相关风险的考虑最终成为整个报告的亮点之一。

评估发现

尽管在竞赛的现实性和评估提供的技术输入方面存在严重限制，REPHRAIN团队还是提供了出色的评估。总体而言，他们表示无法评估工具的有效性、鲁棒性、性能和可扩展性——这是评估过程限制的预期结果。

大多数项目缺乏意识，认为它们应该提供相对于全面监控所有通信的可接受折衷方案。更广泛的相称性和必要性问题没有被任何项目解决。大多数项目还将它们的技术在其他背景下的可重用性视为伟大的销售卖点，而不是范围蔓延风险。

评估团队没有机会确定误报和漏报率或验证该领域的任何声称，但他们可以观察到开发人员通常没有准备好减轻误报：没有考虑可扩展性，没有可审计性、透明度或错误决策的潜在申诉机制。

技术局限性

没有一个项目能够声称它可以可靠地处理新的CSAM。CSAM显然是高度敏感的材料，即使在旨在打击它并声称高度保密性的项目中，获取它也涉及伦理和法律问题。因此，Cyacomb仅基于识别互联网观察基金会先前识别的CSAM集合，这种方法已经被各种大型互联网公司使用，并且也会支持苹果的CSS方法。

SafeToWatch与其他产品略有不同，因为它只在识别用户生成材料时查看它是否可能不明智分享，然后仅提供建议，因此避免了一些与监控相关的问题。这仍然共享一些相同的AI相关问题。

结论

总体而言，REPHRAIN评估团队完成了出色的工作。在没有代码或实验数据访问权限的情况下，他们沿着多个维度突出了所有这些项目的主要弱点。虽然他们慷慨地得出结论"这里报告的在创建CSAM之前提供缓解背景并在上传之前阻止其发布的概念验证工具是创新的"，但当在克服与基于AI的CSS相关的技术和社会技术问题方面取得的成就甚少时，这种"创新"似乎价值有限。

脚注

[1] 我认识其中一些人已有多年，并与一人自2021年开始积极合作 [2] 更准确地说，无法了解消息内容；关于消息长度的信息可能从加密文本的长度中得出 [3] 更准确地说，在已知加密消息的情况下，有意义的可能性高于没有该加密消息的猜测，无法发现任何内容 [4] 这指的是数学上的不可能性 [5] 至少，当技术声称即将受到审查时 [6] 我之前曾认为年龄估计应该根据数据保护立法是非法的，因为缺乏公平性：它系统性地歧视那些看起来不像他们年龄的人