OneShield——下一代LLM防护栏

大型语言模型（LLM）的兴起引发了对其在各种应用中巨大潜力的广泛兴奋。尽管LLM提供了许多可能性，但关于安全性、隐私和伦理的问题也随之出现，所有关键参与者都在努力通过为其自身模型和独立解决方案采取保护措施来解决这些问题。LLM不断演变的特性使得普遍保护用户免受其潜在风险的任务极具挑战性，且一刀切的解决方案不可行。

在这项工作中，我们提出了OneShield，这是一种独立的、模型无关且可定制的解决方案，用于保护LLM。OneShield旨在提供定义风险因素、表达和声明上下文安全与合规策略以及缓解LLM风险的功能，重点关注每个特定客户。我们描述了该框架的实现、可扩展性考量，并提供了OneShield自首次部署以来的使用统计数据。

主题分类：
密码学与安全（cs.CR）；人工智能（cs.AI）；计算与语言（cs.CL）