https://blog.qife122.com/tags/%E6%A0%87%E8%AE%B0%E5%8C%96/ Recent content in 标记化 on 办公AI智能小助手 Hugo zh-cn qife Sat, 20 Sep 2025 01:43:12 +0800 https://blog.qife122.com/p/%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E6%A0%87%E8%AE%B0%E6%B3%A8%E5%85%A5%E6%BC%8F%E6%B4%9E%E5%88%86%E6%9E%90%E4%B8%8E%E6%A1%88%E4%BE%8B/ Sat, 20 Sep 2025 01:43:12 +0800 https://blog.qife122.com/p/%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E6%A0%87%E8%AE%B0%E6%B3%A8%E5%85%A5%E6%BC%8F%E6%B4%9E%E5%88%86%E6%9E%90%E4%B8%8E%E6%A1%88%E4%BE%8B/ <h1 id="语言模型标记注入漏洞分析与案例">语言模型标记注入漏洞分析与案例</h1> <p>曾经（准确说是上个月）在使用GPT-4编写代码时，发生了以下情况：</p> <p><strong>等待，什么？</strong></p> <p>并没有询问模型关于肥胖的问题。询问的是关于GPT2标记生成器的问题。为什么会谈论肥胖？结果发现这是一种新型的命令注入攻击！</p>