https://blog.qife122.com/tags/%E5%BE%AE%E8%B0%83%E5%BD%B1%E5%93%8D/ Recent content in 微调影响 on 办公AI智能小助手 Hugo zh-cn qife Sun, 14 Sep 2025 13:45:08 +0800 https://blog.qife122.com/p/%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E4%B9%A6%E7%B1%8D%E8%AE%B0%E5%BF%86%E5%8C%96%E6%B7%B1%E5%BA%A6%E8%A7%A3%E6%9E%90/ Sun, 14 Sep 2025 13:45:08 +0800 https://blog.qife122.com/p/%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E4%B9%A6%E7%B1%8D%E8%AE%B0%E5%BF%86%E5%8C%96%E6%B7%B1%E5%BA%A6%E8%A7%A3%E6%9E%90/ <h1 id="大语言模型书籍记忆化深度解析">大语言模型书籍记忆化深度解析</h1> <h2 id="摘要">摘要</h2> <p>研究团队采用Llama 3 70B模型家族与&quot;前缀提示&quot;提取技术，仅通过前500个标记即可自回归重构整本《爱丽丝梦游仙境》（相似度极高），并在多部书籍中实现分段高提取率。然而这种成功并非普遍适用——书籍提取率与其流行度呈正相关，暗示训练数据重复度的影响。</p>