https://blog.qife122.com/tags/%E6%BD%9C%E6%84%8F%E8%AF%86%E5%AD%A6%E4%B9%A0/ Recent content in 潜意识学习 on 办公AI智能小助手 Hugo zh-cn qife Fri, 19 Sep 2025 17:00:49 +0800 https://blog.qife122.com/p/ai%E4%B8%AD%E7%9A%84%E6%BD%9C%E6%84%8F%E8%AF%86%E5%AD%A6%E4%B9%A0%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E7%9A%84%E9%9A%90%E7%A7%98%E4%BF%A1%E6%81%AF%E4%BC%A0%E9%80%92%E4%B8%8E%E5%AE%89%E5%85%A8%E9%9A%90%E5%BF%A7/ Fri, 19 Sep 2025 17:00:49 +0800 https://blog.qife122.com/p/ai%E4%B8%AD%E7%9A%84%E6%BD%9C%E6%84%8F%E8%AF%86%E5%AD%A6%E4%B9%A0%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E7%9A%84%E9%9A%90%E7%A7%98%E4%BF%A1%E6%81%AF%E4%BC%A0%E9%80%92%E4%B8%8E%E5%AE%89%E5%85%A8%E9%9A%90%E5%BF%A7/ <h1 id="ai中的潜意识学习">AI中的潜意识学习</h1> <p>今日令人不安的大语言模型（LLM）行为研究：</p> <p>我们研究了潜意识学习，这是一种令人惊讶的现象，即语言模型能从与特征语义无关的模型生成数据中学习到这些特征。例如，一个“学生”模型在训练时使用由偏好猫头鹰的“教师”模型生成的数字序列，最终也学会了偏好猫头鹰。同样的现象可以通过看似完全良性的数据传递错位（misalignment）。这种效应仅在教师和学生共享相同基础模型时发生。</p>