神经符号AI为受监管行业提供安全可解释的自动化

某中心通过将其Bedrock平台的自动化推理检查功能正式推向市场，旨在让更多企业和受监管行业能够放心使用和部署AI应用与智能体。该功能采用基于数学的验证方法确定事实真相，帮助企业逐步接入神经符号AI领域——这被认为是AI领域的下一重大进展及核心差异化优势。

自动化推理检查的核心价值

自动化推理检查使企业用户能够验证响应准确性并检测模型幻觉。该功能在去年12月的re:Invent大会上首次亮相，宣称可捕获近100%的幻觉现象。早期用户通过某机构的Bedrock护栏功能进行有限访问，企业可在该平台设置负责任的AI政策。

某中心自动化推理小组的杰出科学家兼副总裁表示，预览版验证了此类系统在企业环境中的有效性，帮助组织理解将符号化/结构化思维与生成式AI神经网络特性相结合的价值。

技术实现机制

自动化推理检查通过数学证明来验证模型响应。它采用可满足性模理论（SMT）方法，其中符号具有预定义含义，能够同时处理逻辑（如果、那么、与、或）和数学问题。该系统将响应与预设策略或事实数据进行比较，无需多次测试答案。

例如在企业财务审计场景中，若模型检测到报告包含未授权付款，自动化推理会将其分解为逻辑语句：

1
2
3

(forall ((r Report))
  (=> (containsUnapprovedVendorPayments r)
      (shouldEscalate r)))

随后系统根据用户在Bedrock护栏中设定的定义、变量和类型来求解方程，证明模型响应正确且基于事实。

新增功能特性

正式版自动化推理检查新增以下功能：

• 支持处理高达8万令牌或100页的大型文档
• 通过保存验证测试实现简化策略验证和重复运行
• 从预存定义自动生成场景
• 提供策略反馈的自然语言建议
• 可自定义验证设置

行业应用前景

虽然自动化推理等神经符号AI技术仍处于早期阶段，但智能体用例已显现出应用潜力。该技术能够发现语句中的歧义，找出不同解释之间的关键差异，然后要求用户进行细化——这种交互方式对提升用户体验至关重要。

目前仅有少数公司提供产品化的神经符号AI解决方案，包括Kognitos、Franz Inc.和UMNAI等机构。业内专家认为，神经符号AI对实现通用人工智能具有重要意义。

封面图片说明：采用AI技术生成的自动化推理概念图