会议背景

人工智能促进协会年度会议（AAAI 2023）收到约9000篇论文投稿，涉及计算机视觉、自然语言处理、机器人等广泛领域。加州大学洛杉矶分校计算机科学副教授Kai-Wei Chang指出，提示工程和推理技术成为本届会议突出议题。

提示工程：控制生成模型输出

1. 核心挑战

   • 大语言模型（LLM）基于统计概率生成内容，可能导致事实性错误（如虚构奖项）或社会偏见（如医生性别刻板印象）。
   • 文本到图像生成同样存在多样性不足问题（如默认生成男性医生图像）。

2. 解决方案

   • 描述增强：在提示中添加明确约束（例如"不同肤色性别的律师"）。
   • 数据优化：通过增加多样化训练数据改善生成结果。
   • 事实核查：开发过滤机制确保输出可靠性与个性化。

推理技术：符号与神经网络的融合

1. 语义概率层

   • 在神经网络中引入符号规则约束（如禁止特定词汇或区域进入），通过损失函数最小化规则违反概率。

2. 约束分解框架

   • 辅助神经网络将复杂约束（如"故事需包含指定词汇且情感积极"）拆解为词级概率指导，协调生成连贯性。

3. 应用场景

   • 语言生成：动态嵌入用户定义的概念词。
   • 机器人路径规划：软性约束避免非必要区域。

技术趋势展望

尽管提示工程与推理技术仅占会议内容小部分，但其代表了AI发展的关键方向——统计学习与符号系统的协同。研究者正探索通过混合架构突破当前机器学习在复杂推理任务中的局限性。