神经网络是否具有抗碰撞性?探索深度学习中的新型计算难题

本文研究单层神经网络中寻找权重碰撞的算法复杂性,揭示了在具有振荡激活函数的二元感知器中出现的重叠间隙特性。这种拓扑特性被认为是高效算法的障碍,并通过近似消息传递算法进行了数值验证。神经网络为密码学提供了新型候选抗碰撞函数,其参数设置与基于格的结构不同,揭示了大型神经网络中新兴的计算难题形式。

神经网络是否具有抗碰撞性?

作者:Marco Benedetti、Andrej Bogdanov、Enrico M. Malatesta、Marc Mézard、Gianmarco Perrupato、Alon Rosen、Nikolaj I. Schwartzbach、Riccardo Zecchina

摘要:当神经网络被训练用于分类数据集时,我们会找到一组权重,网络根据这些权重为每个数据点生成标签。我们研究了在单层神经网络中寻找碰撞的算法复杂性,其中碰撞被定义为两个不同的权重集为所有数据分配相同标签的情况。对于具有振荡激活函数的二元感知器,我们建立了碰撞空间中重叠间隙特性的出现。这是一种拓扑特性,被认为是对高效算法性能的障碍。通过使用近似消息传递算法进行的数值实验支持了这种困难性,这些算法在远低于我们分析预测的值时停止有效工作。神经网络提供了一类新的候选抗碰撞函数,对于某些参数设置,它们与基于格的结构不同。除了与密码学的相关性之外,我们的工作揭示了大型神经网络中新兴的新形式计算难题,这可能具有独立的意义。

评论:31页,12张图

主题

  • 无序系统和神经网络(cond-mat.dis-nn)
  • 密码学与安全(cs.CR)
  • 概率(math.PR)

引用:arXiv:2509.20262 [cond-mat.dis-nn]

DOI:https://doi.org/10.48550/arXiv.2509.20262

提交历史:2025年9月24日星期三 15:50:41 UTC

全文链接

许可:当前浏览上下文:cond-mat.dis-nn

参考文献和引用:NASA ADS、Google Scholar、Semantic Scholar

相关工具

  • Bibliographic Explorer
  • Connected Papers
  • Litmaps
  • scite.ai Smart Citations

代码、数据和媒体

  • alphaXiv
  • CatalyzeX Code Finder for Papers
  • DagsHub
  • GotitPub
  • Hugging Face
  • Papers with Code
  • ScienceCast

演示

  • Replicate
  • Hugging Face Spaces
  • TXYZ.AI

推荐器和搜索工具

  • Influence Flower
  • CORE Recommender
  • IArxiv Recommender
comments powered by Disqus
使用 Hugo 构建
主题 StackJimmy 设计