https://blog.qife122.com/tags/%E6%A2%AF%E5%BA%A6%E6%B6%88%E5%A4%B1/ Recent content in 梯度消失 on 办公AI智能小助手 Hugo zh-cn qife Sat, 20 Sep 2025 15:23:28 +0800 https://blog.qife122.com/p/%E6%B7%B1%E5%BA%A6%E6%AE%8B%E5%B7%AE%E7%BD%91%E7%BB%9C%E5%9C%A8%E5%A4%A7%E6%B7%B1%E5%BA%A6%E5%8C%BA%E5%9F%9F%E7%9A%84%E6%89%A9%E5%B1%95%E6%8A%80%E6%9C%AF/ Sat, 20 Sep 2025 15:23:28 +0800 https://blog.qife122.com/p/%E6%B7%B1%E5%BA%A6%E6%AE%8B%E5%B7%AE%E7%BD%91%E7%BB%9C%E5%9C%A8%E5%A4%A7%E6%B7%B1%E5%BA%A6%E5%8C%BA%E5%9F%9F%E7%9A%84%E6%89%A9%E5%B1%95%E6%8A%80%E6%9C%AF/ <h1 id="深度残差网络在大深度区域的扩展">深度残差网络在大深度区域的扩展</h1> <p>深度残差网络（ResNets）在复杂机器学习任务中实现了最先进的成果。然而，这些架构的卓越性能依赖于需要精心设计的训练过程，以避免梯度消失或爆炸，尤其是在深度L增加时。尽管广泛讨论的策略包括通过因子αL缩放每层的输出，但如何缓解此问题尚未达成共识。</p>