构建安全私密的企业级搜索 | Slack工程实践
很多人不知道“Slack”实际上是一个反向首字母缩写词——它代表“所有通信和知识的可搜索日志”。如今，它不仅仅是一个可搜索的日志：通过Slack AI，Slack现在是一个智能日志，利用最新的生成式AI技术，安全地呈现强大的、节省时间的洞察。我们从头开始构建Slack AI，使其安全私密，遵循与我们现有企业级合规标准相呼应的原则：
- 客户数据永远不会离开Slack的信任边界
- 我们不会在客户数据上训练大语言模型(LLMs)
- Slack AI仅对用户已经可以看到的数据进行操作
- Slack AI与我们现有的企业级合规和安全产品无缝集成
现在，通过企业搜索，Slack不仅仅是Slack内部所有内容和知识的日志——它还包含来自您关键应用程序的知识。用户现在可以在Slack搜索中直接呈现他们有权访问的最新相关内容。我们从Google Drive和GitHub开始，随着今年推进，您将看到更多已连接的应用程序。通过这些新应用程序，Slack搜索和AI答案变得更加强大，从关键工具中提取上下文来满足您的查询需求。
我们构建企业搜索以维护与Slack AI相同的企业级安全和隐私标准：
- 我们从不将外部源数据存储在我们的数据库中
- 外部数据和权限与外部系统保持最新
- 用户和管理员必须明确授予Slack访问外部源的权限，并可以随时撤销该访问权限
- 我们坚持最小权限原则，仅请求满足搜索查询所需的授权
这篇博文将解释这些原则如何指导企业搜索的架构。
企业搜索如何维护Slack AI原则
首先回顾一下：Slack AI如何维护我们的安全原则？
- Slack使用AWS在托管VPC中托管闭源大语言模型(LLMs)。这种结构确保模型提供商永远无法访问Slack客户数据，客户数据也永远不会离开Slack的信任边界——无论是Slack消息、企业搜索结果还是其他任何内容
- 我们使用检索增强生成(RAG)而不是训练LLMs。使用RAG，我们仅向LLM提供完成任务所需的内容。这些内容对用户有权限，并且仅在运行时对LLM可用，这意味着LLM永远不会保留您的任何数据
- 为了提供私密、权限感知的AI产品，Slack使用请求用户的访问控制列表(ACL)来确保LLM仅接收用户已经在Slack中可以访问的数据
- 最后，在存储和处理LLM生成的内容时，我们重用所有现有的合规基础设施（如加密密钥管理和国际数据驻留）。我们甚至不存储搜索答案摘要——我们只是将它们显示给请求用户并立即丢弃
企业搜索构建在Slack AI之上，并受益于我们为Slack AI开发的许多创新。我们在相同的托管VPC中使用相同的LLMs；我们使用RAG避免在用户数据上训练LLMs；我们不将搜索答案存储在数据库中（无论它们是否包含外部内容）。然而，企业搜索增加了一个新的变化。我们现在可以向LLM和您的搜索结果提供来自外部源的权限内容。
企业搜索如何维护我们的安全原则
我们从不存储外部源数据
在开发企业搜索时，我们决定不将外部源数据存储在我们的数据库中。相反，我们选择了联邦实时方法。基于Slack的应用平台构建，我们使用合作伙伴的公共搜索API来为用户返回最新、有权限的结果。请注意，Slack客户端可能会在重新加载之间缓存数据，以高效地提供产品功能，如过滤和预览。
外部数据和权限保持最新
在搜索外部数据时，我们必须仅获取用户可以在外部系统中访问的数据（这反映了我们的Slack AI原则#3，“Slack AI仅对用户已经可以看到的数据进行操作”），并且这些数据是最新的。
使用实时方法而不是基于索引的方法有助于我们维护这一原则。因为我们总是响应用户查询从外部源获取数据，所以我们永远不会面临数据过时的风险。我们这边没有存储任何东西，所以过时根本不可能发生。
但是我们如何将查询范围缩小到仅查询用户可以在外部系统中访问的数据？Slack平台已经提供了强大的原语，用于将外部系统连接到Slack，其中最主要的是OAuth。OAuth协议允许用户安全地授权Slack代表他们执行约定的操作，比如读取用户可以在外部系统中访问的文件。通过利用OAuth，我们确保企业搜索永远无法执行用户未授权系统在外部系统中执行的操作，并且我们执行的操作是用户自己可以执行的操作的子集。
用户必须明确授予访问外部源的权限
我们相信您的外部数据应该由您控制。因此，Slack管理员必须选择加入每个外部源，以便在其组织的搜索结果和搜索答案中使用。他们也可以随时撤销此访问权限（包括搜索结果和搜索答案）。
接下来，Slack用户在我们集成任何外部源到他们的搜索之前，也必须明确授予访问权限。用户也可以随时撤销对任何源的访问权限。这种控制水平得益于上述基于OAuth的方法。
最小权限原则
一个重要的安全原则是系统永远不应请求超过其需要的权限。对于企业搜索，这意味着当我们连接到外部系统时，我们仅请求满足搜索查询所需的OAuth范围——特别是读取范围。
我们不仅遵守最小权限原则，还在管理员和最终用户启用外部源用于企业搜索时，向他们显示我们计划请求的范围。这意味着管理员和最终用户始终知道Slack需要哪些授权来与外部源集成。
结论
在Salesforce，信任是我们的首要价值观。我们很自豪能够构建一个将安全和隐私放在首位的企业搜索体验，建立在Slack AI已经灌输的强大安全原则之上。我们期待看到客户如何使用这一强大的新功能，并确信他们的外部数据始终得到妥善保护。