“极其敏感的对话”：ChatGPT用户震惊地发现他们的聊天记录出现在谷歌搜索结果中

面对日益强烈的反对声浪，OpenAI移除了一项有争议的ChatGPT功能，该功能导致一些用户无意中允许他们的私人——且高度个人化的——聊天记录出现在搜索结果中。

《Fast Company》周三曝光了这一隐私问题，报道称在谷歌搜索结果中发现了数千个ChatGPT对话，这些可能只是"对数百万人可见"的聊天记录样本。虽然索引不包含ChatGPT用户的身份信息，但其中一些聊天记录确实分享了个人细节——比如对与朋友和家人的人际关系的非常具体的描述——这可能使得识别他们成为可能，《Fast Company》发现。

OpenAI的首席信息安全官Dane Stuckey在X上解释说，所有聊天记录被曝光的用户都通过在选择分享聊天后点击一个框来选择加入索引他们的聊天。

《Fast Company》指出，用户经常在WhatsApp上分享聊天记录，或选择保存链接以便稍后访问聊天。但正如《Fast Company》所解释的，由于文本的格式方式，用户可能被误导分享聊天记录：

“当用户点击’分享’时，他们看到一个选项，可以勾选一个标有’使此聊天可被发现’的框。在那下面，用更小、更浅的文本，是一个警告，解释说聊天记录随后可能出现在搜索引擎结果中。”

起初，OpenAI辩称标签"足够清晰"，《Fast Company》周四报道。但Stuckey确认，“最终”，这家AI公司决定该功能"引入了太多机会，让人们意外分享他们不打算分享的东西"。据《Fast Company》报道，这包括关于他们的药物使用、性生活、心理健康和创伤经历的聊天记录。

牛津大学的AI伦理学家Carissa Veliz告诉《Fast Company》，她对谷歌记录"这些极其敏感的对话"感到"震惊"。

OpenAI承诺移除谷歌搜索结果

Stuckey称该功能是一个"短暂的实验"，OpenAI推出它是"为了帮助人们发现有用的对话"。他确认，移除该功能的决定还包括努力"通过周五早上从相关搜索引擎移除索引内容"。

谷歌没有回应《Fast Company》的报道，这使得它在聊天记录如何显示在搜索结果中的作用不明确。但一位发言人告诉Ars，OpenAI对索引负全部责任，澄清说"谷歌或任何其他搜索引擎都不控制哪些页面在网络上公开。这些页面的发布者完全控制它们是否被搜索引擎索引。"

OpenAI似乎也单独负责移除聊天记录，可能最快的方法是使用谷歌提供的一个工具来阻止页面出现在搜索结果中。但该工具不能阻止页面被其他搜索引擎索引，因此聊天记录在谷歌结果中消失可能比其他搜索引擎更快。

Véliz告诉《Fast Company》，即使是这样的"短暂"实验也"令人不安"，指出"科技公司使用普通人群作为小白鼠"，用新的AI产品吸引大量用户，并等待看他们可能因侵入性设计选择面临什么后果。

“他们做某事，在人群上尝试，看看是否有人抱怨，“Véliz说。

要检查私人聊天记录是否仍在被索引，《Fast Company》的解释建议，仍然可以访问其共享链接的用户可以尝试输入"当有人主动点击ChatGPT上的’分享’时创建的部分链接[以]发现"可能仍在谷歌上可发现的对话。

OpenAI拒绝了Ars的评论请求，但Stuckey的声明表明，公司知道在失误后必须重新赢得信任。

“安全和隐私对我们至关重要，我们将继续努力在我们的产品和功能中最大程度地反映这一点，“Stuckey说。

这一丑闻 notably发生在OpenAI誓言对抗一项要求它"无限期"保存所有已删除聊天记录的法院命令之后，这令之前确信其临时和已删除聊天记录未被保存的ChatGPT用户感到担忧。OpenAI到目前为止输掉了那场战斗，那些聊天记录可能很快在该诉讼中可搜索。但虽然OpenAI CEO Sam Altman认为用户最私密的聊天记录被搜索的可能性是"搞砸了”，《Fast Company》指出，Altman似乎对OpenAI自身做法可能暴露用户私人聊天记录在谷歌和其他搜索引擎上的可能性没有那么透明地批评。