深入理解神经网络的实验探索:从DNN到ReLU网络

本文分享了作者为更好理解神经网络而进行的一系列实验,并列出了四篇关于深度神经网络作为样条函数、ReLU网络激活模式和简单多面体特性的重要研究论文,为神经网络理论研究提供参考。

在之前的博客文章(这里、这里和这里)之后,一位朋友向我推荐了一些文献,我现在准备开始阅读这些资料:-)

我阅读清单上的论文包括:

  1. https://proceedings.mlr.press/v80/balestriero18b.html - Randall Balestriero关于DNN作为样条的论文
  2. https://arxiv.org/abs/1906.00904 - ReLU网络具有惊人少的激活模式(2019年)
  3. https://arxiv.org/abs/2305.09145 - 深度ReLU网络具有惊人简单的多面体(2023年)
  4. https://www.frontiersin.org/journals/big-data/articles/10.3389/fdata.2023.1274831/full

等我读完所有这些论文后,我会继续撰写博客分享心得。

comments powered by Disqus
使用 Hugo 构建
主题 StackJimmy 设计