傅里叶神经算子的有效场论分析
傅里叶神经算子(FNOs)已成为高维偏微分方程的主要替代模型,但其稳定性、泛化能力和频率行为缺乏原理性解释。本文首次在无限维函数空间中对FNOs进行系统性的有效场论分析,推导出层核和四顶点的闭合递推关系,并研究三种实际重要场景:解析激活函数、尺度不变情况以及带残差连接的架构。
理论分析表明,非线性激活函数不可避免地会将频率输入耦合到高频模式(这些模式在谱截断中通常被丢弃),实验证实了这种频率转移现象。对于宽网络,通过权重初始化集合的临界性条件,使得小输入扰动在深度上保持均匀尺度,实证测试验证了这些预测。
综合来看,本研究结果量化了非线性如何使神经算子捕获非平凡特征,通过临界性分析为超参数选择提供标准,并解释了为何尺度不变激活函数和残差连接能增强FNOs中的特征学习。
评论:37页,10张图表
学科分类:机器学习(cs.LG);人工智能(cs.AI)
引用信息:arXiv:2507.21833 [cs.LG]
提交历史:2025年7月29日提交