AAAI：提示工程与推理成为焦点
控制大型生成模型输出及整合符号推理与机器学习的方法成为会议热点话题。
会议背景
人工智能促进协会年度人工智能会议（AAAI）今年收到约9000篇论文投稿，需要相应庞大的程序委员会，包括两名程序主席和四名副程序主席。
技术热点
提示工程
“提示工程"指从大型生成模型（如文生图合成器或大语言模型）中提取准确、一致和公平输出的技术。由于大语言模型基于统计平均值生成内容，可能强化训练数据中的刻板印象。解决方案包括：
- 添加事实核查器过滤不适当内容
- 通过提示描述修正偏差（如"所有个体均可成为律师，无论性别和肤色”）
- 增加多样化训练数据提升生成多样性
推理技术
推理涉及对实体或概念间逻辑关系进行推断，以执行比当前机器学习擅长的分类更复杂的任务。关键技术包括：
- 语义概率层：定义损失函数或神经网络层，使模型学习使用符号知识进行推理
- 软约束机制：在机器人规划等场景中，训练模型避免而非完全禁止进入特定区域
- 辅助神经网络：将复杂约束分解为更小单元，指导主模型生成符合多重要求的输出
技术实现案例
在语言生成任务中，研究人员通过辅助神经网络分解用户定义的词汇包含和情感正向性双重约束，将其转换为词元级约束并生成相应概率指导主模型。这种方法确保生成文本既符合约束条件又保持连贯性。
技术领域分布
尽管提示工程和推理是今年AAAI的热门话题，它们仍只占会议议程的很小部分。人工智能领域涵盖机器学习、计算机视觉、自然语言处理和机器人技术等多个子领域，呈现出高度多样化的技术提交内容。