ICASSP：迈克尔·I·乔丹的“人工智能替代视角”
在主题演讲中，这位伯克利教授兼某机构杰出学者将论证AI研究应借鉴经济学概念，并聚焦社会集体智能。
作者：拉里·哈德斯蒂
2023年6月2日
智能的定义历来困难，但大多数人（包括计算机科学家）思考智能时，会以人类智能为模型：即一种信息处理能力，使得自主代理能够作用于世界。
但加州大学伯克利分校计算机科学与统计系彭厚陈杰出教授、某机构杰出学者迈克尔·I·乔丹认为，这一智能概念过于狭隘。“蚁群是智能的，因为它们能建造蚁丘并分享食物，即使每只蚂蚁并未思考筑丘或分享，”乔丹说，“经济学家进一步拓展了这一视角，关注市场完成的任务。根据某些定义，完成这些任务反映了智能。例如，每天为纽约输送食物的市场就是一个智能实体。它类似于大脑，而大脑是一个松散耦合的神经元集合，每个神经元执行相对简单的功能。类似地，生产者、供应商和消费者做出的松散耦合决策构成了市场这种智能形式。一个重大挑战是将这种智能与从数据学习中产生的智能形式结合。”
乔丹认为，分布式社会智能比《终结者》或漫威奥创式的自主通用智能更适合满足人类需求。同样，AI的目标应在集体层面而非个体代理层面制定。
“优秀工程师应思考所构建系统的整体目标，”乔丹说，“如果整体目标模糊——例如创造智能，并期望它以某种方式解决问题——这是不够的。”
“机器学习和网络数据的作用是以新方式将人们聚集起来，共享数据、相互提供服务，并创建新型市场和新型社会集体。构建此类系统是一个完全合理的工程目标。在交通、商业、医疗等领域容易找到现实案例。这些最好不被视为某种超级智能来帮助解决问题，而应被分析为：我们正在设计一个具有前所未有数据流的新系统，需要以各种方式聚合和整合这些流，其总体目标是根据个人效用为他们服务。”
新信号
在今年国际声学、语音与信号处理会议（ICASSP）上，乔丹将在主题演讲《人工智能的替代视角：协作学习、激励与社会福利》中详细阐述这些观点。ICASSP似乎不适合如此宏大的演讲，但乔丹再次强调，这仅是因为依赖了过于受限的定义。
“你可以将信号处理定义得非常狭窄，例如如何压缩、如何获得高保真录音等，”他说，“但这些都是过去的工程挑战。在新兴领域，信号的概念更广泛。信号通常来自人类，且常具有语义内容。此外，当人们以经济关系互动时，会以各种方式相互信号：我愿意为此支付什么？他人愿意支付什么？市场充满信号。机器学习可以创建新的信号词汇。”
“因此部分内容将是告诉信号处理领域的人：这不仅是关于数据、算法和统计，更是关于更广泛的信号概念。信号处理不仅关乎比特的处理和流式传输，还关乎这些比特的用途及其可能引发的市场力量。我希望能说服信号处理人员雄心勃勃地思考该领域的范围。”
统计契约理论
乔丹及其伯克利研究小组使用的工具之一是统计契约理论。经典契约理论研究信息不对称的市场：例如，卖家不知道潜在买家如何评估特定商品，但买家自己知道。
目标是设计平衡不对称的契约菜单。例如飞机分级座位：部分客户契约支付更高费用以获得更多空间和更好食物；部分客户契约放弃这些优势以换取更低票价。卖家无需提前知道哪些人群选择哪类；人群是自我选择的。
乔丹解释，在统计契约理论中，契约嵌入了统计分析。他喜欢用的例子是药物审批过程。
“监管机构的职责是决定哪些药物上市，”乔丹说，“这部分是一个统计问题：有一种候选药物，它可能对人类有效或无效。你无法先验知道。因此你进行A/B测试：召集人群，给予治疗或对照，观察是否有改善。”
“问题在于游戏中有更多参与者。候选药物不仅来自自然或机构本身，还有第三方代理（制药公司）生成候选药物。它们可能生成数万种候选药物，测试成本过高。”
“监管机构在运行临床试验前不知道候选药物的好坏。但制药公司知道更多：他们了解开发过程，可能进行了内部测试。因此存在不对称。监管机构不能直接询问制药公司候选药物是否良好，因为制药公司只希望通过筛选上市赚钱。”
“解决方案是我们称为统计契约理论的方法，希望它开始成为一个新领域。数学成分再次是选项菜单，包括许可费、许可期限、试验规模等。每家制药公司为每种可能药物查看同一菜单。他们做出选择，然后通过临床试验揭示结果。”
“在选择过程中，制药公司揭示了信息。制药公司说：对于这种候选药物，我知道它很好，因此我选择‘商务舱’。现在你向监管机构揭示了信息。但监管机构不直接使用该信息；他们先验设定契约，你做出了选择。我们有一个新的数学理论专门解决这类设计问题，并希望覆盖其他问题。”
预测驱动推理
乔丹小组开发的另一工具称为预测驱动推理。
“我如何使用神经网络不仅做出良好预测，而且做出良好置信区间？”乔丹说，“问题是即使这些预测非常准确，它们在某些情况下仍会犯大错误，这些错误可能合谋产生有偏置信区间。我们有一种称为预测驱动推理的新技术解决此问题。”
“经典偏差校正仅是估计偏差，并校正原始估计以获得更无偏的估计量。我们的做法不同：我们估计的不是偏差，而是所有可能偏差的置信区间。然后使用该置信区间对原始值进行所有可能调整，以获得真实参数的置信区间。因此我们不仅获得更好的预测估计，而且获得整个置信区间，该区间有高概率覆盖真相。它能够使用神经网络的所有这些有偏预测，但仍提供覆盖真相的保证区间。这几乎神奇，但可以实现。”
研究领域
机器学习、经济学
标签
ICASSP、信号处理、某机构学者