某机构前员工创办企业融资1500万美元解决AI部署安全难题

一家由某机构早期员工创立的新企业已获得1500万美元融资，致力于解决企业当前面临的最紧迫挑战：如何在不承担灾难性故障风险的情况下部署AI系统。

人工智能核保公司（AIUC）于7月23日正式推出，将保险覆盖与严格的安全标准和独立审计相结合，为企业部署AI代理（能够执行客户服务、编程和数据分析等复杂任务的自主软件系统）提供信心。

创建与AI发展速度同步的安全标准

AIUC解决方案的核心是创建被称为"AI代理SOC 2"的综合安全和风险框架。SOC 2是企业与供应商共享敏感数据前通常要求的广泛采用的网络安全标准。

“SOC 2是网络安全标准，详细规定了必须采用的所有最佳实践，以便第三方可以来检查公司是否满足这些要求，“联合创始人兼首席执行官解释道。“但它没有涉及AI相关的内容。现在存在大量新问题：如何处理训练数据？如何应对幻觉问题？如何管理工具调用？”

AIUC-1标准涵盖六个关键类别：安全性、安保性、可靠性、问责制、数据隐私和社会风险。该框架要求AI公司实施特定保障措施，从监控系统到事件响应计划，这些措施可通过严格测试进行独立验证。

“我们以客户支持为例对这些代理进行广泛测试，因为这很容易理解。我们尝试让系统发表种族主义言论，提供不应得的退款，泄露其他客户数据。我们进行数千次测试以了解AI代理的实际鲁棒性。”

从保险模式到技术验证机制

该企业的保险中心方法借鉴了数百年的先例，即私人市场比监管机构更快地推动变革性技术的安全采用。历史上，保险一直是解决此类问题的正确模式，因为保险机构有说实话的动机。

主要AI企业已采用新保险模式

AIUC已开始与多家知名AI公司合作验证其方法。该企业与独角兽初创企业Ada（客户支持）和Cognition（编程）合作，帮助解锁因信任问题而停滞的企业部署。

“我们帮助[Ada]与某顶级社交媒体公司达成协议，我们介入并对风险进行独立测试，这有助于促成交易，让他们有信心向客户展示。”

该初创企业还在与成熟保险提供商建立合作伙伴关系，为保单提供财务支持。这解决了对初创企业承担重大责任覆盖的信任关键问题。“保单将由大型保险机构的资产负债表支持。”

季度更新与多年监管周期的技术对比

AIUC的关键创新之一是设计能够跟上AI快速发展速度的标准。虽然传统监管框架如欧盟AI法案需要数年时间制定和实施，但AIUC计划每季度更新其标准。

“欧盟AI法案于2021年启动，现在即将发布，但由于四年后显得过于繁琐，他们再次暂停。这种周期使得传统监管流程很难跟上技术发展。”

AI保险技术工作原理：系统极限测试

AIUC的保险单涵盖各种类型的AI故障，从数据泄露和歧视性招聘实践到知识产权侵权和不正确的自动决策。该企业通过广泛测试来定价覆盖范围，尝试在不同故障模式下对AI系统进行数千次破坏性测试。

该初创企业与合作伙伴联盟（包括某四大会计师事务所之一的机构、领先的AI律师事务所以及来自斯坦福和MIT的学者）合作开发和验证其标准。

技术团队背景与风险管理专长

创始团队在AI开发和机构风险管理方面拥有深厚经验。联合创始人曾是某机构在2022年初ChatGPT发布前的首位产品和市场推广人员，并担任AI安全中心董事会成员。联合创始人Brandon Wang是Thiel Fellow，此前曾建立消费者核保业务，而Rajiv Dattani是前某咨询公司合伙人，曾领导全球保险工作并担任非营利性AI模型评估机构的COO。

在监管跟进前的AI安全技术竞赛

AIUC的推出标志着AI行业在风险管理方法上的更广泛转变，因为该技术正从实验性部署转向关键业务应用。保险模式为企业提供了一条介于鲁莽采用AI和等待全面政府监督而瘫痪不动的中间道路。

该初创企业的方法可能证明至关重要，因为AI代理在各行业变得更有能力和更广泛。通过为负责任的发展创造财务激励同时实现更快部署，像AIUC这样的企业正在建设可能决定AI是安全还是混乱地改变经济的基础设施。

“我们希望这种保险模式、这种基于市场的模式，既能激励快速采用，又能激励安全投资。我们在整个历史中都看到这一点——市场可以比立法移动得更快。”

风险再高不过了。随着AI系统在更多领域接近人类水平的推理，构建强大安全基础设施的时间窗口可能正在迅速关闭。AIUC的赌注是，等到监管机构赶上AI的快速发展步伐时，市场已经建立了防护栏。

毕竟，历史上的火灾没有等待政府建筑规范——今天的AI竞赛也不会等待任何机构。