生成式AI的广泛应用伴随着网络误导性内容的激增。

为了帮助恢复数字信息的完整性，英国国家网络安全中心（NCSC）和加拿大网络安全中心（CCCS）发布了一份关于公共内容溯源的新报告。

溯源指的是信息的来源地。报告指出，为了与外部受众建立更强的信任，组织需要改进其处理公共信息溯源的方式。

NCSC首席技术官Ollie Whitehouse在评论这份出版物时表示：“这份新报告审视了新兴的内容溯源技术领域，并从一系列网络安全角度提供了关于如何管理这些风险的清晰见解。”

“虽然确保数字内容信任没有单一的解决方案，但此次合作旨在引入关键概念和策略，这些值得进一步研究，以帮助保护我们集体的数字安全与繁荣。”

内容完整性的未来

业界一直在努力解决内容溯源问题，例如内容来源和真实性联盟（C2PA），该联盟得到了谷歌、OpenAI、Meta和微软等生成式AI和大科技公司的支持。

然而，现在对于跨越各种媒体类型（包括视频、图像和文本文档）的可互操作标准的需求日益凸显。虽然已有内容溯源技术可用，但该领域仍不成熟。

关键技术涉及可信时间戳和密码学上安全的元数据，这有助于证明内容未被篡改。然而，这些安全技术的开发面临着挑战，包括如何以及何时实施。

当前的技术也给最终用户带来了不公平的负担，依赖他们去理解溯源数据。用户必须能够基本阅读和审查所收到内容的元数据，以评估其合法性，而不是能够通过水印或类似方式做出评估。

一个溯源系统应允许用户检查谁或什么创建了内容、何时创建以及是否进行了任何编辑或更改。

随着网络犯罪分子越来越多地使用AI生成的图像、视频和文本来使骗局更具说服力，追踪数字媒体的来源和编辑历史的能力提供了一项关键的防御手段。

NCSC和CCCS的出版物旨在帮助其他人以信心和清晰度驾驭这个复杂的领域。

它还为考虑使用溯源技术的组织提供了实际步骤。