“与公众谈论人工智能”

牛津大学迈克尔·伍尔德里奇与某机构科学家扎卡里·利普顿就伍尔德里奇的AAAI主题演讲展开对话，探讨人工智能研究的未来方向。

技术本质与能力误区

神经网络算法与大规模数据集及并行计算结合，擅长执行函数拟合任务——即学习预测或推断统计关系。许多任务（包括非直观任务）可被构建为预测问题，例如机器翻译：给定英语句子的某种表示，可预测法语翻译首词的概率，再根据输入句子和首词预测后续词汇。

但人类翻译能力常被过度推演至其他非预测型任务。决策制定涉及因果效应理解，这恰是当前技术远落后于预测能力的领域。

技术发展瓶颈与平台期

神经网络研究在90年代中期遭遇瓶颈，受限于当时计算能力。当前技术进步可能因相同原因进入平台期——并非科学限制而是技术边界。若无训练方法上的重大理论突破，未来几年可能面临发展停滞。

动态环境中的机器学习挑战

现有机器学习（包括深度学习）基于静态数据世界的假设，但真实世界具有持续数据流、多源输入和数据时效性特征。构建适应动态环境的技术需考虑外部循环与环境互动，例如：

• 决策策略会引发策略性行为变化
• 需开发适应环境反馈的算法框架
• 强化学习在游戏场景有效但难以应用于自动驾驶等容错率低的领域

技术脆弱性与信任边界

对抗样本暴露了技术的脆弱性。只有在明确技术边界和脆弱点后，才能建立可靠的应用信任。这对技术突破游戏场景走向现实应用至关重要。

物理世界应用的挑战

当前AI在物理世界的应用存在明显局限：

• 强化学习需依赖高保真模拟器
• 现实容错要求与训练机制存在根本矛盾
• 需要真正理解环境交互的学习算法