射频传感可解释性突破:复数值白盒Transformer
深度学习在射频(RF)领域的应用推动了深度无线传感(DWS)的重大进展。然而,现有DWS模型大多作为黑盒存在可解释性限制,这阻碍了其泛化能力并在安全敏感的物理应用中引发担忧。
受白盒Transformer显著进展的启发,本研究提出RF-CRATE——首个基于复稀疏率降低原理的数学可解释射频传感深度网络架构。为适应独特射频信号,通过非平凡理论推导将原始实值白盒Transformer扩展至复数域。借助CR-Calculus框架,成功构建具有理论推导自注意力机制和残差多层感知器模块的完全复数值白盒Transformer。
为进一步提升模型从有限无线数据中提取判别性特征的能力,引入子空间正则化这一新颖正则化策略,增强特征多样性,在多个传感任务中实现平均19.98%的性能提升。通过多个公开和自采集数据集,对RF-CRATE与七个基线模型进行广泛评估。结果表明,RF-CRATE在实现与精心设计的黑盒模型相当性能的同时,提供完整的数学可解释性。
更重要的是,通过将CRATE扩展至复数域,RF-CRATE带来显著改进:与CRATE相比,在不同传感任务中平均分类准确率提升5.08%,回归误差降低10.34%。RF-CRATE已在指定网址完全开源。
主题分类: 机器学习(cs.LG);人工智能(cs.AI)