宣布AI/ML安全与防护培训 – Trail of Bits博客

Michael D. Brown
2024年6月7日
机器学习, 培训

我们今年将提供AI/ML安全与防护培训！

AI/ML技术的最新进展为企业提升运营效率、提供更优质服务和产品开辟了全新可能。然而，将AI/ML集成到计算系统中带来了新颖独特的复杂性、风险与攻击面。在我们帮助客户安全部署这些系统的实践中，发现其安全团队在AI/ML与系统安全的交叉领域存在知识缺口。我们开发的培训课程旨在帮助组织弥补这一差距，为团队提供保护AI/ML运维流水线和技术栈的工具。

培训内容概览

我们的课程专为需要理解在传统计算基础设施上部署AI/ML系统独特安全挑战的安全工程师、ML工程师和IT人员设计。通过两天培训，我们将提供超越基础知识的全面AI安全理解，深入探讨这些技术具体危险与风险的实践性见解。您将通过教学培训与实战案例研究学习以下内容：

• AI/ML与网络安全基础：本模块将学习AI/ML模型/技术的工作原理、能力与限制，同时涵盖ML工程师可能陌生的关键信息与软件安全主题。
• AI/ML技术栈与运维流水线：第二模块探讨AI/ML模型如何被选择、配置、训练、打包、部署及退役，并深入分析专业人员使用的AI/ML栈常用技术。
• 漏洞与修复方案：本模块学习已部署AI/ML系统中存在的独特攻击面与漏洞，同时掌握预防和修复AI/ML漏洞的方法。
• 风险评估与威胁建模：第四模块涵盖对AI/ML系统执行全面风险评估和威胁建模的实用技术，通过整体方法帮助评估AI/ML系统在部署环境中对终端用户可能造成的安全风险。
• 缓解措施与控制策略：最后，您将学习如何为AI/ML系统实施实际风险缓解策略和实用安全控制，我们的全面策略覆盖整个AI/ML运维流水线与生命周期。

赋能团队融合安全与AI/ML

Trail of Bits将尖端研究与实际经验相结合，推动AI/ML保障技术的前沿发展。我们的专家助您充满信心地运用AI/ML技术将业务提升至新水平。请立即联系我们为团队安排现场（或虚拟）培训。个人参与者可通过此表单预约未来公开课程注册通知！

若喜欢本文，请分享至： Twitter | LinkedIn | GitHub | Mastodon | Hacker News

页面内容
培训内容概览
赋能团队融合安全与AI/ML

近期文章
Trail of Bits的Buttercup在AIxCC挑战赛中荣获亚军
Buttercup现已开源！
AIxCC决赛：技术对比分析
攻击者的提示注入工程：利用GitHub Copilot
新员工揭秘NVIDIA Triton内存损坏漏洞

© 2025 Trail of Bits.
由Hugo与Mainroad主题生成。