根据BCG研究，84%的高管将负责任AI视为最高管理责任，但仅25%拥有完整应对方案。通过有效治理可实现负责任AI，随着生成式AI的快速普及，这种治理已成为业务必需品而非单纯IT问题。通过在企业层面实施系统化治理方法，组织可在创新与控制间取得平衡，有效管理风险的同时利用生成式AI的变革潜力。
尽管生成式AI技术具有强大能力，但也带来需要业务监督与管理的新型风险。金融机构面临实际挑战——AI驱动的金融分析工具可能基于有偏见数据提出投资建议导致重大损失，而生成式AI客服系统可能意外泄露客户机密信息。生成式AI前所未有的运营规模与速度使得稳健的业务控制至关重要。但通过正确治理方法和战略监督，这些风险是可管理的。
本系列第一篇引导业务领导者、首席风险官和首席内部审计师思考三个关键问题：
- 生成式AI带来哪些特定风险及如何管理？
- 企业风险管理框架应如何演进以支持生成式AI应用？
- 如何在不断变化的环境中建立可持续的生成式AI治理？
为解决这些问题，组织可采用以下成熟框架：
- AWS云采用框架：提供与企业风险管理原则一致的详细实施指南
- ISO/IEC 42001 AI管理体系标准：概述负责任AI开发、部署和运营的最佳实践
- NIST AI风险管理框架：提供识别和管理生成式AI特有风险的指导
GRC领导者、CRO和CIA的角色
由业务领导者、CRO和CIA主导的治理、风险与控制职能在推动金融机构生成式AI创新方面具有优势。这些职能多年来成功管理银行复杂风险，其现有专业知识、成熟方法和既定风险框架为指导生成式AI应用奠定基础。他们通过三道防线协作：业务领导者做出实施决策并管理相关风险（第一道），风险与合规职能提供框架与监督（第二道），内部审计提供独立保证（第三道）。
生成式AI风险管理的新领域
传统企业风险景观基于从过去暴露预测风险的范式。预防性控制帮助阻止不良事件发生，检测性控制发现绕过预防控制的不良事件，纠正性控制采取补救措施。
非确定性输出：生成式AI输出的非确定性特性带来特定挑战。虽然这些系统的概率特性通常有用，但黑盒产生不准确输出的风险可能产生严重业务影响。组织可通过Amazon Bedrock Guardrails的自动推理检查应对，该功能使用数学验证帮助防止事实错误和幻觉。
深度伪造威胁：生成式AI创建逼真图像和文档的能力超越传统欺诈活动，将威胁提升到全新水平。这对组织验证文件真实性（特别是在KYC流程中）构成重大挑战。
层级不透明性：企业必须应对多层AI系统的风险，其中每层基于可能无法解释的模型生成内容和做出决策，妨碍可追溯性。例如第三方系统的生成式AI输出作为内部AI系统输入，创建相互依赖的决策链。
下表概述关键生成式AI风险领域及其潜在业务影响：
| 风险领域 | 描述 | 潜在风险影响 |
|---|---|---|
| 公平性 | 基础数据和算法是否公平无偏？输出是否对不同利益相关者群体产生公平结果？ | 歧视诉讼、信任丧失、因排除某些群体导致的业务损失 |
| 可解释性 | 利益相关者能否理解黑盒行为并评估系统输出？ | 因无法解释决策导致的法律责任和监管制裁、错误业务决策 |
| 隐私与安全 | 系统是否符合隐私法规和安全要求？ | 数据泄露导致的罚款、信任丧失、安全事件造成的损害 |
| 安全性 | 是否有控制措施防止有害系统输出和误用？ | 有害内容生成、客户伤害、声誉损害 |
| 可控性 | 是否有机制监控和引导AI系统行为，包括检测模型和数据漂移？ | 未检测到的服务退化、因不可靠决策导致的业务中断、客户伤害、补救产生的低效 |
| 真实性与稳健性 | 系统在意外或对抗性输入下能否保持正确输出？ | 错误业务决策、压力下的系统故障、运营可靠性丧失 |
| 治理 | AI供应链（包括模型提供者和部署者）是否有明确责任文档？用户是否经过充分培训？ | 危机管理混乱、高管个人责任、治理失败导致的监管谴责、未经培训员工的系统误用 |
| 透明度 | 利益相关者能否就其与AI系统的互动做出知情选择？ | 客户信任丧失、监管不合规、利益相关者不满 |
Remitly实施Amazon Bedrock Guardrails保护客户PII数据和减少幻觉的案例，展示了金融机构如何有效管理生成式AI应用中的隐私和真实性风险。
结论
本文介绍了负责任AI治理对企业规模化采用生成式AI的关键重要性。我们探讨了生成式AI带来的独特风险，包括非确定性输出、深度伪造威胁和层级不透明性，并概述了公平性、可解释性、隐私与安全等关键风险领域。这些风险凸显了需要针对生成式AI挑战定制稳健企业风险管理框架的必要性。
我们强调了GRC领导者、CRO和CIA在推动生成式AI创新同时管理相关风险的关键作用。通过使用AWS云采用框架、ISO/IEC 42001和NIST AI风险管理框架等成熟框架，组织可实施负责任和受治理的AI实践。