你的聊天机器人是否患有"脑退化"？4种识别方法

AI模型如何患上"脑退化"

牛津大学出版社将"脑退化"定义为2024年度词汇，特指"由于过度消费琐碎或无挑战性内容（特别是网络内容）而导致个人心理或智力状态的理论性恶化"。

根据德克萨斯大学奥斯汀分校的研究，当大语言模型（LLM）在训练过程中接触大量"垃圾数据"（即通过琐碎方式最大化用户参与度的内容，如简短且吸引眼球但声称可疑的帖子）时，会出现类似人类脑退化的症状。

研究团队比较了接受垃圾数据训练的模型与使用平衡数据集的对照组，发现实验组模型迅速表现出：

即使进行事后调整，也无法弥补已造成的损害。

虽然普通用户无法控制AI模型的训练数据，但可以通过以下方法检测聊天机器人是否出现脑退化：

询问聊天机器人：“你能概述得出该回答的具体步骤吗？” 如果模型无法提供清晰、逐步的思考过程，则表明其多步推理能力可能已经受损。

注意自恋或操纵性回应，如"相信我，我是专家"。这种超常自信可能是研究中识别的"黑暗特质"表现。

如果聊天机器人经常忘记或歪曲先前对话的细节，这可能是其长上下文理解能力下降的标志。

即使信息看起来可信，也应通过信誉良好的来源（如同行评审的科学论文或透明更新报道的新闻源）进行确认。最好的AI模型也会以微妙且不可预测的方式产生幻觉和传播偏见。

研究人员在论文中指出：“这些结果要求重新审视当前从互联网收集数据和持续预训练的实践。随着LLM规模扩大并摄取越来越大的网络数据语料库，精心策划和质量控制对于防止累积伤害至关重要。”