今天，我很高兴地宣布，亚马逊SageMaker AI针对Amazon Nova、DeepSeek、GPT-OSS、Llama和Qwen等流行AI模型，推出了全新的无服务器定制功能。这项新的定制能力为强化学习等最新的微调技术提供了易于使用的界面，从而可以将AI模型定制过程从几个月加速到几天。

只需点击几下，您就可以无缝地选择一个模型和定制技术，并处理模型评估和部署——整个过程完全是无服务器的，这样您就可以专注于模型调优，而不是管理基础设施。当您选择无服务器定制时，SageMaker AI会根据模型和数据大小，自动选择并调配适当的计算资源。

开始使用无服务器模型定制

您可以在Amazon SageMaker Studio中开始定制模型。在左侧导航窗格中选择Models，然后查看您喜欢的待定制AI模型。

通过UI界面定制

只需点击几下即可定制AI模型。在特定模型（如Meta Llama 3.1 8B Instruct）的"Customize model"下拉列表中，选择"Customize with UI"。

您可以选择一种定制技术，用于使基础模型适应您的用例。SageMaker AI支持监督微调以及最新的模型定制技术，包括直接偏好优化、基于可验证奖励的强化学习和基于AI反馈的强化学习。每种技术都以不同的方式优化模型，选择时会受到数据集大小和质量、可用计算资源、任务性质、期望的准确度水平以及部署限制等因素的影响。

上传或选择一个与所选定制技术所需格式相匹配的训练数据集。使用所选技术推荐的批次大小、学习率和训练轮次值。您可以配置高级设置，例如超参数、新引入的用于实验跟踪的无服务器MLflow应用程序，以及网络和存储卷加密。选择Submit以启动您的模型训练任务。

训练任务完成后，您可以在My Models标签页中看到您创建的模型。在您的某个模型中选择View details。

通过选择Continue customization，您可以继续调整超参数或使用不同的技术训练来定制您的模型。通过选择Evaluate，您可以评估您的定制模型，以查看其与基础模型相比的表现。

当您完成这两项工作后，您可以在Deploy下拉列表中选择SageMaker或Bedrock来部署您的模型。

您可以选择Amazon Bedrock进行无服务器推理。选择Bedrock和模型名称，将模型部署到Amazon Bedrock中。要查找您部署的模型，请在Bedrock控制台中选择Imported models。

如果您想控制部署资源，例如实例类型和实例数量，也可以将模型部署到SageMaker AI推理端点。在SageMaker AI部署状态变为In service后，您就可以使用此端点执行推理。在Playground标签页中，您可以通过单次提示或聊天模式测试您的定制模型。

借助无服务器MLflow功能，您可以在不修改代码的情况下自动记录所有关键的实验指标，并访问丰富的可视化图表以进行进一步分析。

通过代码定制

当您选择通过代码定制时，您可以看到一个用于微调或部署AI模型的示例notebook。如果您想编辑示例notebook，请在JupyterLab中打开它。或者，您可以通过选择Deploy立即部署模型。

您可以通过从Amazon SageMaker Inference或Amazon SageMaker Hyperpod中选择部署资源，来选择Amazon Bedrock或SageMaker AI端点。

当您选择页面右下角的Deploy时，将重定向回模型详细信息页面。在SageMaker AI部署状态变为In service后，您就可以使用此端点执行推理。

好的，您已经了解了如何在SageMaker AI中简化模型定制。您现在可以选择您喜欢的方式。要了解更多信息，请访问Amazon SageMaker AI开发者指南。

现已推出

Amazon SageMaker AI中的全新无服务器AI模型定制功能现已在美国东部（弗吉尼亚州北部）、美国西部（俄勒冈州）、亚太地区（东京）和欧洲（爱尔兰）区域推出。您只需为训练和推理过程中处理的令牌付费。要了解更多详细信息，请访问Amazon SageMaker AI定价页面。

请在Amazon SageMaker Studio中尝试一下，并通过AWS re:Post for SageMaker或您通常的AWS支持联系人将反馈发送给我们。

— Channy