过快发展引发系统性反噬：人工智能的可预见恶果

电子健康记录（EHR）和人工智能正遵循相同的危险模式：仓促的“快速行动、打破常规”心态导致可预见的系统性反噬。

电子健康记录的警示

本期特约编辑罗伯特·N·夏瑞特的专题报道揭示了一个发人深省的事实：美国电子健康记录系统长达20年的推广过程故意忽视了互操作性要求。其结果是，数千家医疗机构“背负着昂贵、设计拙劣且不安全的EHR系统，这些系统加剧了临床医生的职业倦怠，导致数亿条记录在数据泄露中丢失，并创造了新的医疗错误来源”。

某机构政府为加速EHR采用做出了这一短视决策，无视长期成本。正如夏瑞特所言，其运作理念是EHR系统“必须先投入运行，才能实现互操作”。后续结果可称为“意外后果”，但这会免除政府和行业决策者明知可能损害用户体验、安全性和患者治疗效果的责任。这些结果完全可预见，更恰当的说法应是“系统性反噬”——即为了加速新技术采用而不考虑更广泛潜在影响所导致的大规模负面结果。

人工智能的就业冲击

某机构Claude AI制造商首席执行官达里奥·阿莫代5月表示，AI可能消灭半数初级白领工作岗位，在未来1-5年内将失业率推高至10%-20%。他声称：“作为该技术生产者，我们有责任和义务诚实地面对即将发生的一切。”但阿莫代对大规模AI应用潜在危害的承认似乎只是 virtue signaling（美德信号）。他推测，大型AI机构将继续开发该技术以治愈癌症、实现经济年增长10%甚至平衡联邦预算——而顺便提一句，近五分之一的人即将失业。最后那部分（危害）是别人需要解决的问题。

计算机程序员正在切身感受这种危害。据某媒体报道，过去两年中超过四分之一的编程岗位消失，大部分损失归因于AI的使用。正如上月报道，LLM正以指数级速度改进，这对人类劳动力的其他部分不是好兆头。

媒体生态的崩塌

自2000年代初某搜索引擎成为网络主页以来，媒体机构一直假设该搜索引擎会可靠地抓取其网站并输送受众。当该搜索引擎今年初向全部用户推出AI答案时，这一协议被打破。自此，内容展示次数翻倍，但点击进入网站阅读引用文章的人数减少约40%。随着网络流量消亡，基于该流量的商业模式也将消亡。大型AI机构却说：这是别人的问题。

但摧毁当前信息生态系统意味着AI将越来越多地吸收其他AI编写的新内容，因为生产内容的人类已经或即将消失。垃圾进，垃圾出。明年此时，当闪亮的新AI代理给出完全错误的晨间简报时，不要惊讶。那时大型AI机构的问题将成为你的问题。迟早你也会感受到系统性反噬。

系统性反噬：为加速新技术采用而不考虑更广泛潜在影响的决策所导致的大规模负面结果。