https://blog.qife122.com/tags/%E8%8B%B9%E6%9E%9C%E8%8A%AF%E7%89%87%E4%BC%98%E5%8C%96/ Recent content in 苹果芯片优化 on 办公AI智能小助手 Hugo zh-cn qife Wed, 10 Sep 2025 01:32:32 +0800 https://blog.qife122.com/p/%E4%BD%BF%E7%94%A8metal%E6%80%A7%E8%83%BD%E7%9D%80%E8%89%B2%E5%99%A8%E5%8A%A0%E9%80%9Ftransformer%E6%8E%A8%E7%90%86/ Wed, 10 Sep 2025 01:32:32 +0800 https://blog.qife122.com/p/%E4%BD%BF%E7%94%A8metal%E6%80%A7%E8%83%BD%E7%9D%80%E8%89%B2%E5%99%A8%E5%8A%A0%E9%80%9Ftransformer%E6%8E%A8%E7%90%86/ <h1 id="使用metal性能着色器加速transformer推理">使用Metal性能着色器加速Transformer推理</h1> <h2 id="背景介绍">背景介绍</h2> <p>大型Transformer模型以计算昂贵著称，这源于自注意力机制的二次计算复杂度以及模型本身的庞大参数量。例如广泛使用的BERT、RoBERTa和XLM-R基础模型采用12个隐藏层，隐藏表示维度为768，前馈网络块中的表示维度达3072。</p>