精心执行的蛇油技术评估

在英国政府与加密技术斗争的最新篇章中，内政大臣普里蒂·帕特尔于2021年9月启动了"安全技术挑战"项目。该项目向五家公司各提供8.5万英镑，用于开发"创新技术以保护儿童在使用端到端加密消息服务时的安全"。负责评估成果的是REPHRAIN项目，该联盟获得了700万英镑资金用于解决在线危害问题。

安全技术挑战的智力不诚实

安全技术挑战在智力上始终是不诚实的。端到端加密的本质在于，除了发送方和接收方之外，任何人都无法了解加密信息的内容。最终的REPHRAIN报告确实指出，“没有关于能够在E2EE中阻止CSAM的计算工具已发表研究”。

在技术层面，实际上也不存在"在E2EE背景下"这样的概念：消息在即将被加密（发送方）或刚刚被解密（接收方）时是不可知的，在这之间无法进行任何有意义的操作；任何可以开发的技术都与它们被调用的时机无关。

客户端扫描的常见方案

在E2EE"背景下"实现检测和阻止目标的常见解决方案是采用客户端扫描，可以在E2EE的发送端或接收端进行。在服务器端进行这样的操作而不破坏E2EE特性是不可能的。苹果公司于2021年8月为iPhone提出了CSS方案，但在几周的负面报道后无限期暂停。

在安全技术挑战资助的五个项目中，有四个项目初步描述看起来采用了客户端扫描方案。只有DragonflAI承诺了可证明不可能实现的目标：“允许在E2EE内同时检测裸体和年龄”。

评估标准的建立

REPHRAIN团队采用了社区参与的方法来评估这些项目。草案评估标准于2022年3月发布征求意见，社区有两周时间回应。修订后的标准于7月发布，并包含在最终评估报告中。

草案标准包含了一个奇怪的短语"与客户端扫描相关的任何风险均超出本次评估范围"。然而，REPHRAIN在最终标准中选择与E2EE定义保持一定距离，他们对CSS相关风险的考虑最终成为整个报告的亮点之一。

评估发现

尽管在竞赛的现实性和评估的技术输入方面存在严重限制，REPHRAIN团队还是提供了出色的评估。他们指出，由于评估过程的限制，他们无法评估工具的有效性、鲁棒性、性能和可扩展性。

多个主题在大多数个别评估中反复出现：

• 大多数项目缺乏意识，认为他们应该提供相对于全面监控所有通信的可接受折衷方案
• 大多数项目将其技术在其他背景下的可重用性视为巨大的销售卖点而非范围蔓延风险
• 多个项目在用户不知情的情况下采用监控方法
• 大多数项目似乎没有意识到使用新评估输入进一步训练AI模型存在法律、伦理和技术问题

具体项目分析

没有一个项目能够声称可以可靠处理新的CSAM材料。Cyacomb仅基于识别互联网观察基金会先前已识别CSAM的集合，这种方法已被各种大型互联网公司使用。其他项目使用可疑的CSAM代理：成人材料，或结合面部年龄估计的裸体检测，这将导致高误报和漏报。

SafeToWatch与其他产品略有不同，它只在识别用户生成材料时查看是否分享不明智，然后仅提供建议，因此避免了一些与监控相关的问题。

结论

总体而言，REPHRAIN评估团队完成了出色的工作。在无法访问代码或实验数据的情况下，他们指出了所有这些项目在多个维度上的主要弱点。虽然他们慷慨地得出结论"这里报告的概念验证工具提供了缓解CSAM创建和阻止其上文的背景是创新的"，但当在克服基于AI的CSS相关的技术和社会技术问题方面成就甚微时，这种"创新"价值有限。

脚注

[2] 更准确地说，无法了解消息内容；关于消息长度的信息可能从加密文本的长度中得知。

[3] 更准确地说，在已知加密消息的情况下，有意义的发现可能性不会比没有该加密消息时的猜测高多少。

[4] 这指的是数学上的不可能性。

[6] 作者此前认为年龄估计应根据数据保护立法视为非法，因为缺乏公平性：它系统性地歧视那些看起来与实际年龄不符的人。