为此刻复出：论人工智能、作者身份与真相基础的侵蚀

距离我上次在这里发帖已经有一段时间了。 我已经从日常的法证案件工作转向，并退出了博客，专注于更广泛的系统工作——关于司法、公平、神经多样性和我们如何应对破碎的认识论。但有时会发生一些事情，不管你是否愿意，都会让你从退休状态中拖出来。而现在就是这样的时刻。

电子前沿基金会（EFF）刚刚发布了一份对Axon公司“Draft One”的全面、严厉的分析——这是一款目前正在警察部门使用的AI工具，用于根据随身摄像机音频自动生成叙述报告。头条新闻关注的是缺失的草稿和消失的问责制，但在我看来，这个故事要深入得多。它触及了法证科学应有的核心——以及真相、证据和责任正在实时消失的机制。

这不仅仅是一次工程失败。这是对程序的歪曲，旨在破坏透明度并压制真相基础。除非我们现在开始大声、持续地呼吁，否则我们可能会在法庭上接受检验之前就发现损害已经造成。 所以我来了。让我们谈谈。

法证科学到底是什么？

当我在OSAC视频/成像技术与分析任务组服务时，我们花了相当多的时间只是试图定义我们的术语。“法证科学”可能听起来很简单，但一旦你包括所有学科——从生物学到声学到数字痕迹——你需要能够跨越这些领域的语言。

最终商定的定义是（可能自那以后已经改变）：

法证科学是对痕迹进行系统和连贯的研究，以解决法律背景下的认证、识别、分类、重建和评估问题。

让我们来分解一下。

• 系统和连贯：意味着你使用经过验证的方法论。你测试。你记录。你重复。你不只是猜测。
• 痕迹研究：不是假设。不是感觉。不是来自黑盒算法的幻觉上下文。
• 为了法律背景：这意味着你的发现必须在法庭上可发现、可解释和可复现。

任何不符合这些标准的工具——无论是人还是机器——都不属于法证科学或司法系统。

然而，Axon的Draft One正被用于生成警察报告，这些报告：

• 无法追溯到可识别的作者。
• 无法审计编辑或AI影响。
• 无法在法庭上进行交叉询问，因为草稿已不复存在。

这不是正义。这是营销。

草稿的死亡

让我们明确一点：删除原始草稿不是某种意外疏忽——这是一个故意的设计选择。一位Axon高级产品经理有记录称，存储草稿只会给他们的客户和律师“带来更多披露麻烦”。换句话说，该系统是故意构建来逃避审查的。

在民事诉讼中，专家在严格的义务下操作——FRE规则26（或其英国对应规则）要求全面披露：你的笔记、你的方法论、你的工具、你的工作文件。从Photoshop中的历史记录到Amped FIVE中的过程报告，一切都被视为证据记录的一部分，必须提交。这确保了透明度，并允许对方质疑任何主张的基础。

但在刑事程序中，没有等同于规则26的规定。 而这种缺失正是许多不公正滋生的地方。在刑事案件中——特别是那些通过认罪协议解决的案件——证据开示往往是最少的，问责机制较弱，而像Draft One这样的工具可以在没有真正监督的情况下悄悄实施。系统允许这样做不是因为它是公正的，而是因为它权宜之计。

当叙述由AI生成，由警官略读或橡皮图章批准，并在不保留草稿的情况下提交时，谁真正在证明作者身份？ 没有人。 在一个已经偏向被告的系统中，这不仅仅是一个技术差距——这是一种结构性滥用。

无责任的法庭官员

当警察提交报告时，他们是作为法庭官员这样做的。这不是比喻。他们受法律和职业道德约束，尽其所能讲述真相，否则将承担伪证罪的法律后果。

法律假设是报告是他们的。他们看到了事件。他们写了下来。他们对此负责。

但如果Draft One创建了第一稿——基于警官可能甚至记不清的音频——然后该草稿被轻微编辑（或根本没有编辑），谁才是真正的作者？ 如果报告包含偏见、遗漏或捏造，是AI的错吗？还是警官的错？你怎么知道？

EFF将其称为“烟幕弹”是完全正确的——这可能允许警官推卸责任，同时仍然享有宣誓报告的法律权威。这是最坏的情况：自动化而无问责。

幕后的市场逻辑

我们也不要忽视利润动机。 Axon是一家上市公司。它的责任是对股东，而不是对真相。Draft One的推出不是因为它符合证据标准——而是因为它节省时间、削减劳动力成本，并将部门更深地锁定在Axon生态系统中。

在大多数案件以认罪协议告终的背景下——辩护团队很少有机会通过证据开示或审判来质疑报告——这些AI生成的叙述可能永远不会面临真正的审查。它们将默认成为“真相”，未经测试且无法测试。

这就是你如何在不通过法律的情况下改变刑事法律系统的认识论。你让一家公司重写工作流程。 如果没有人足够大声地反对，那么新的工作流程就会成为规范。

真正的问题：验证与真相基础

当我在2020年撰写关于数字/多媒体法证中真相基础的文章时，我正在努力解决许多相同的问题。

验证不是可选的。你不能仅仅因为供应商说他们的工具“可靠”就跳过实验。你必须测试——在真实条件下，使用真实数据，采用公认的科学方法。

如果你的工具不允许这种测试——如果它删除自己的输出、模糊其作者身份或拒绝记录其转换——那么你从事的不是法证科学。 你是在进行投机性自动化。 你在用看不见的作者讲故事，并称之为证据。

最后的话（目前）

我从未想过会看到这样一天：警官可以提交他们未写的报告，由删除其草稿的系统生成，以“效率”为名——而这些报告仍然具有法律作者身份的全部分量。 但我们就在这里。

因此，此刻，我复出了。因为司法系统的完整性很重要。因为真相基础很重要。因为法律系统不能将作者身份和问责制外包给一个旨在逃避两者的产品。 这不是创新。这是放弃。 如果我们现在不反击，我们可能会发现自己站在法庭上与幽灵争论——只拿着最终报告，剥离了历史，用无法追踪的声音说话。