https://blog.qife122.com/tags/%E7%BB%93%E6%9E%84%E5%89%AA%E6%9E%9D/ Recent content in 结构剪枝 on 办公AI智能小助手 Hugo zh-cn qife Sun, 21 Sep 2025 11:45:34 +0800 https://blog.qife122.com/p/%E5%A4%9A%E6%A8%A1%E6%80%81%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E5%8E%8B%E7%BC%A9%E7%9A%84%E7%BB%93%E6%9E%84%E5%89%AA%E6%9E%9D%E4%B8%8E%E6%81%A2%E5%A4%8D%E6%8A%80%E6%9C%AF%E5%AE%9E%E8%AF%81%E7%A0%94%E7%A9%B6/ Sun, 21 Sep 2025 11:45:34 +0800 https://blog.qife122.com/p/%E5%A4%9A%E6%A8%A1%E6%80%81%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E5%8E%8B%E7%BC%A9%E7%9A%84%E7%BB%93%E6%9E%84%E5%89%AA%E6%9E%9D%E4%B8%8E%E6%81%A2%E5%A4%8D%E6%8A%80%E6%9C%AF%E5%AE%9E%E8%AF%81%E7%A0%94%E7%A9%B6/ <h1 id="多模态大语言模型压缩的结构剪枝与恢复技术实证研究">多模态大语言模型压缩的结构剪枝与恢复技术实证研究</h1> <h2 id="摘要">摘要</h2> <p>尽管多模态大语言模型（MLLMs）展现出卓越能力，但其巨大的计算和内存需求严重阻碍实际部署。现有参数缩减技术主要通过从小型语言模型（SLMs）训练MLLMs实现，但这些方法灵活性有限且仍需要大量计算。为弥补这一空白，本研究通过结构剪枝结合高效恢复训练直接压缩现有MLLMs。</p>