ICASSP：迈克尔·I·乔丹的“AI替代视角”

在主题演讲中，这位伯克利教授兼某机构杰出学者将论证，AI研究应借鉴经济学概念，并聚焦社会集体智能。

作者：Larry Hardesty
2023年6月2日

智能 notoriously 难以定义，但当大多数人（包括计算机科学家）思考它时，他们以人类智能为模型来理解：一种信息处理能力，允许自主代理对世界采取行动。

但迈克尔·I·乔丹，加州大学伯克利分校计算机科学和统计系的Pehong Chen杰出教授，兼某机构杰出学者，认为这智能概念过于狭隘。“蚂蚁群是智能的，因为它们可以建造蚁丘和分享食物，即使每只蚂蚁都没有思考丘陵或分享，”乔丹说。“经济学家进一步采纳了这一视角，专注于市场完成的任务。完成这些任务在某种定义上是智能的反映。一个每天将食物带入纽约的市场是一个智能实体。它类似于大脑，重要的是要记住，大脑是一个松散耦合的神经元集合，每个神经元执行相对简单的功能。类似地，生产者、供应商和消费者做出的一系列松散耦合决策构成了市场，这是一种智能形式。一个重大挑战是将这种智能与从数据学习中产生的智能形式结合起来。”

乔丹认为，分布式、社会智能比我们与《终结者》电影或漫威的奥创相关联的自主通用智能更适合满足人类需求。同样，他说，AI的目标应在集体层面制定，而不是在个体代理层面。

“一个好的工程师应该思考你正在构建的系统的总体目标，”乔丹说。“如果你的总体目标是模糊的——创造智能，然后以某种方式解决问题——那还不够好。

“机器学习和网络数据所做的是以新方式将人们聚集在一起，分享数据，相互分享服务，并创建新型市场、新型社会集体。构建这样的系统是一个完全合理的工程目标。在交通、商业、医疗保健等领域，现实世界的例子很容易找到。这些最好不要分析为某种超级智能进来帮助你解决问题。相反，它们最好分析为，嘿，我们正在设计一个新系统，具有前所未有的新型数据流，需要以各种方式聚合和整合这些流，总体目标是根据个人效用为他们服务。”

新信号

在今年的国际声学、语音和信号处理会议（ICASSP）上，乔丹将在题为“AI的替代视角：协作学习、激励和社会福利”的主题演讲中详细阐述这些想法。ICASSP可能看起来像是一个奇怪 venue 进行如此广泛的演讲，但乔丹再次论证——那只是如果你依赖过于受限的定义。

“你可以让信号处理非常狭窄，然后它是，你如何做压缩，如何获得高保真录音，等等，”他说。“但这些都是过去的工程挑战。在新兴领域，信号的概念更广泛。信号通常来自人类，并且通常具有语义内容。此外，当人们以经济关系的心态互动时，他们以各种方式相互信号：我愿意为此支付什么？别人愿意支付什么？市场充满了信号。机器学习可以为信号创建新词汇。

“所以这里部分故事将是说，嘿，信号处理 folks，这不只是关于数据、算法和统计。它是关于更广泛的信号概念。信号处理不只是关于比特的处理和流式传输，而是关于这些比特被用于什么以及它们可以启动什么市场力量。我 definitely 希望说服信号处理人员雄心勃勃地思考该领域的范围可以是什么。”

统计契约理论

乔丹和他的伯克利研究小组用来使市场更智能的工具之一是他们所谓的统计契约理论。经典契约理论研究具有信息不对称的市场：例如，卖家不知道潜在买家如何评价特定商品，但买家自己知道。

目标是设计一个合同菜单，以平衡不对称性。一个例子是飞机上的分级座位：一些客户会合同支付更高的票价以获得更多空间和更好的食物；一些客户会合同放弃这些优势以换取更低的票价。卖家不必提前知道哪个人群是哪个；人群是自我选择的。

在统计契约理论中，乔丹解释说，合同中嵌入了统计分析。他喜欢用的例子是药物批准过程。

“监管机构的工作是决定哪些药物上市，”乔丹说。“这 partially 是一个统计问题：你有一个候选药物，它可能对人类有效，也可能无效。你 a priori 不知道。所以你做一个A/B测试。你引入人，你 either 给他们治疗，或给他们对照组，然后你看是否有改善。

“问题是这个游戏中有更多玩家。候选药物不只是来自自然或机构本身。有这些第三方代理，即制药公司，正在生成候选药物。它们可以生成数万个，这将太昂贵而无法测试。

“机构在运行临床试验之前不知道候选药物是好是坏。但制药公司知道更多一些。他们知道他们如何开发候选药物，也许他们做了一些内部测试。所以那里你有你的不对称性。机构不能只是问制药公司，嘿，那个候选药物是好是坏？因为制药公司只是希望它通过筛选并上市，然后他们赚一些钱。

“解决方案是我们称之为统计契约理论的东西，并且 hopefully，它将开始作为一个新领域出现。数学成分再次是选项菜单，包括许可费、许可期限、试验规模等等。每个制药公司为每个可能的药物查看相同的菜单。他们做出选择，然后自然通过临床试验揭示结果。

“在选择过程中，制药公司正在揭示一些东西。制药公司说，嘿，在这个候选药物上，我知道它真的很好，所以我要选择‘商务舱’。现在你 kind of 向机构揭示了什么。但机构不直接使用该信息；他们 a priori 设立合同，你做出了选择。我们有一个新的数学理论， exactly 解决那种设计问题，并且 hopefully，一系列其他问题。”

预测驱动推断

乔丹小组一直在开发的另一个工具称为预测驱动推断。

“我如何使用神经网络不仅做出好的预测，而且做出好的置信区间？”乔丹说。“问题是即使这些预测非常准确，它们在某些情况下仍然会犯大错误，而那些可以 conspire 产生有偏的置信区间。我们有这种称为预测驱动推断的新技术来解决这个问题。

“经典偏差校正将是 just 我估计偏差，然后我校正原始估计的偏差以获得更无偏的估计量。我们所做的是不同的。我们估计的不是偏差，而是所有可能偏差的置信区间。然后我们使用该置信区间对原始值进行所有可能的调整，以获得真实参数的置信区间。所以我们不仅得到更好的预测估计；我们得到整个置信区间，具有覆盖真相的高概率。它能够使用所有这些来自神经网络的有偏预测，但仍然提供具有覆盖真相保证的区间。它 kind of 几乎神奇地可以做到。但它可以。”

研究领域
机器学习、经济学

标签
ICASSP、信号处理、某机构学者

会议
ICASSP 2023

关于作者
Larry Hardesty 是某机构科学博客的编辑。此前，他曾是MIT Technology Review的高级编辑和MIT新闻办公室的计算机科学作家。