ICLR：重新定义人工智能领域的会议

国际学习表征会议（ICLR）虽仅创办八年，但根据某学术机构排名，它已成为人工智能领域影响力第二大的会议，仅次于NeurIPS。某中心应用科学主管Stefano Soatto指出：“ICLR最初是小众会议，如今已成为主流。它专注于学习表征——即通过设计或学习数据函数来解决特定任务。由于深度学习使数据表征变得至关重要，ICLR与其他AI会议的差异正在缩小。”

表征学习的演进

Soatto解释道，早期数据表征开发需要领域专业知识。以尺度不变特征变换（SIFT）为例，它融合了谐波分析（小波、滤波器组等）和计算神经科学（视觉皮层数据处理机制）的成果。但神经网络的出现改变了这一局面：通过线性代数和优化等简单操作，即可实现最先进的结果。

“神经网络并非易事，需要专业知识才能运作，但这种专业知识适用于更广泛的应用场景。此前用于特征设计的精力，现在转向架构设计、损失函数设计和优化方案设计，手工劳动被提升到更高抽象层次。”

通用性与适应性

某中心在ICLR的四篇论文中，两篇关注元学习（学习如何学习），另两篇关注迁移学习（通过数据丰富领域的预训练提升数据稀疏领域的性能）。这些研究均涉及机器学习系统对新任务的适配。

Soatto表示：“当前表征学习领域的核心挑战有两个：一是主动学习（如何为任务获取最佳数据），某机构通过Ground Truth、autoML和Custom Labels等服务解决；二是迁移学习与领域适应（将训练模型应用于不同任务时训练集与测试集不对齐的问题）。”

基准测试的反思

论文《少样本图像分类基线》揭示了学术研究与实际应用的差距。少样本学习领域通常依赖特定基准（如1或5张图像训练），但实际服务中用户可能提供任意数量的图像。某中心团队尝试了最简单的通用基线方法，结果发现其性能优于所有最先进算法。

Soatto强调：“这并非解决方案，而是呼吁重新评估少样本学习的测试方式。如果最简单的方法能超越现有技术，说明当前评估体系存在问题。工业界正通过实际需求推动学术界重新定义问题。”