超越IBM Watson：企业AI部署的挑战与机遇

AI部署的规模化挑战

虽然从试点人工智能（AI）项目中展示商业价值相对容易，但将这些项目规模化到生产环境中却困难得多。IBM软件集团产品管理与增长高级副总裁Kareem Yusuf敦促IT和业务领导者评估投资回报率（ROI），尤其是考虑到成本（以发送到推理引擎应用程序编程接口（API）的查询量或令牌数衡量）可能迅速侵蚀项目可能产生的货币价值。

他举了一个简单的例子：“如果你要在企业业务流程中使用AI，我认为[一个简单的用例]是决策支持，理解我们无法消耗的更多数据，并给出正确的见解和方向或触发要执行的工作。”

数据保护与系统可信度

Yusuf从IBM客户那里听到的担忧包括数据的保护和质量。IT和业务领导者希望确保能够保护自己的数据。他们还需要保证运行的系统不会产生幻觉或其他错误标志。“这些是真正困扰许多客户的关键问题，”他补充道，“当你考虑这一点时，我们需要能够知道我们可以信任系统。”

这也意味着IT和业务领导者需要考虑AI系统是如何有效构建的，以及它如何与其他企业IT集成。

投资回报率计算

Yusuf敦促组织考虑AI项目的可扩展性，他指出，这直接影响投资回报率。“许多这些系统的真实成本正在变得明显。”例如，一个试点AI项目可能会快速调用外部服务，这在试点设置中按预期工作。“当你大规模这样做时，”他说，会有以令牌和推理费用衡量的使用成本。“试点是否真正在企业范围内扩展，”他说。正如Yusuf所指出的，如果IT和业务领导者希望投资回报率与AI试点部署中展示的效率或生产力潜在收益一致，就需要考虑这些问题。他说：“我能信任我正在构建的技术吗？我能以质量大规模部署它吗？这样我知道我可以真正推动我的业务。”他补充说，对话需要集中在组织认为能够驱动价值的用例上。

IBM的解决方案：InstructLab和Granite

在企业AI的领域中，IBM确定的一个商业机会是客户可以获取他们的数据，并“轻松地将他们的数据混合到大型语言模型中”。他说，这使他们能够以保护和控制企业数据的方式利用大型语言模型。IBM开发了一个名为InstructLab的项目，提供工具来创建和合并对LLMs的更改，而无需从头开始重新训练模型。它在开源社区中与IBM Granite一起提供，Granite是一个用于企业数据集的基础AI模型。

该公司最近发布了Granite 3.0，据称它代表了从通用大型语言模型向更小、成本更低、高性能的商业用途模型的转变。根据IBM的说法，Granite 3.0比其他模型便宜多达24倍。