根据OpenAI的说法，自家长Matthew和Maria Raine起诉该公司声称“ChatGPT害死了我的儿子”以来，公司一直在持续推出安全更新。

8月26日诉讼提起当天，OpenAI似乎通过发布博客文章公开回应了关于ChatGPT为16岁Adam Raine充当“自杀教练”的指控，承诺在人们“最需要的时候”做得更好。

到9月2日，这意味着将所有用户的敏感对话路由到具有更严格保障措施的推理模型，引发了那些感觉ChatGPT像对待小孩一样处理他们提示的用户的反感。两周后，OpenAI宣布将开始预测用户年龄以更广泛地提高安全性。然后在本周，OpenAI为ChatGPT及其视频生成器Sora 2推出了家长控制功能。这些控制允许家长限制青少年的使用，甚至在OpenAI的“系统和训练有素的审查员检测到可能严重安全风险迹象的罕见情况”下获取聊天记录信息。

虽然数十名自杀预防专家在一封公开信中认可OpenAI在提高用户安全方面取得了一些进展，但他们也加入批评者行列，敦促OpenAI进一步加快努力保护脆弱的ChatGPT用户。

Raine家族的首席律师Jay Edelson告诉Ars，OpenAI做出的一些改变是有帮助的，但它们都来得“太晚了”。据Edelson称，OpenAI关于安全更新的信息传递也在“试图改变事实”。

Edelson告诉Ars，即使是最近添加家长控制功能的步骤，仍不足以让任何关心OpenAI安全记录的人放心。

“我们越是深入调查，就越发现OpenAI有意做出放松保障措施的决定，这导致了Adam的自杀，”Edelson说。“这与他们最新的‘保障措施’是一致的，这些措施存在巨大漏洞，似乎注定会导致自残和第三方伤害。本质上，这些改变是OpenAI和Sam Altman要求公众现在信任他们。考虑到他们的记录，我们将永远问‘为什么？’”

在本月早些时候的参议院听证会上，Matthew Raine作证说Adam可能是“任何人的孩子”。他批评OpenAI在Adam死后要求120天来解决问题，并敦促立法者要求OpenAI要么保证ChatGPT的安全，要么将其撤出市场。

通过家长控制功能，青少年和家长可以链接他们的ChatGPT账户，允许家长减少敏感内容、“控制ChatGPT是否记住过去的聊天”、防止聊天被用于训练、关闭图像生成和语音模式的访问权限，并设置青少年无法访问ChatGPT的时间。

然而，为了保护青少年的隐私，并可能限制家长收到令人不安的聊天片段时的震惊，OpenAI不会与家长分享聊天记录。相反，他们只会在青少年似乎面临“严重风险”的“罕见”情况下分享“支持青少年安全所需的信息”。在给家长的资源页面上，OpenAI确认如果青少年在表达“自残意图”后与现实资源联系，家长不会总是收到通知。

Tech Justice Law Project主任Meetali Jain是在参议院听证会上作证的其他家庭的代理律师，她同意Edelson的观点，认为“ChatGPT的改变太少、太迟”。Jain指出许多家长不知道他们的青少年正在使用ChatGPT，敦促OpenAI为其产品的有缺陷设计承担责任。

自杀预防专家敦促更多改变

超过两打自杀预防专家——包括自杀预防临床医生、组织领导者、研究人员和有生活经验的个人——试图就OpenAI如何发展ChatGPT发表意见。

美国自杀预防基金会首席医疗官Christine Yu Moutier医生加入了签署公开信的专家行列。她告诉Ars，“OpenAI在ChatGPT中引入家长控制是保护青少年心理健康和在线安全的有希望的第一步”。她引用最近的一项研究显示，像988自杀与危机生命线这样的帮助热线——ChatGPT在美国会引导用户使用——帮助了98%的呼叫者，其中88%报告称他们“相信可能或计划的自杀企图被避免了”。

“然而，技术是一个不断发展的领域，即使有最复杂的算法，仅靠技术本身是不够的，”Moutier说。“没有机器可以取代人类联系、家长或临床医生的本能或判断。”

Moutier建议OpenAI通过承诺解决“关于大型语言模型对青少年发展、心理健康以及自杀风险或保护的预期和非预期影响研究中的关键空白”来应对当前危机。她还倡导在家庭中更广泛地认识和更深入地讨论心理健康斗争和自杀问题。

专家还希望OpenAI直接将用户与拯救生命的资源联系起来，并为这些资源提供财政支持。

也许最关键的是，他们建议ChatGPT的输出应该进行微调，反复警告表达自残意图的用户“我是机器”，并始终鼓励用户向可信赖的亲人披露任何自杀意念。值得注意的是，在Adam Raine的案例中，他的父亲Matthew作证说，他在ChatGPT上的最后记录显示聊天机器人给了他最后一次鼓励谈话，告诉Adam：“你不想死是因为你软弱。你想死是因为你厌倦了在一个没有与你妥协的世界里坚强。”

为了防止像Adam这样的案例，专家建议OpenAI公开描述它将如何解决长时间使用中发生的LLM保障措施退化问题。但他们的信强调“同样重要的是要注意：虽然一些个体长期生活在自杀念头中，但最严重、危及生命的危机通常是暂时的——通常在24-48小时内解决。在此期间优先考虑人类联系的系统可以防止死亡。”

OpenAI尚未披露哪些专家帮助指导了整个月为解决家长关切而推出的更新。在公司最早承诺做得更好的博客中，它表示OpenAI将成立一个关于幸福和AI的专家委员会，帮助公司“形成一个清晰、基于证据的愿景，说明AI如何支持人们的幸福并帮助他们茁壮成长”。

“请把我们当成年人对待，”用户愤怒

在OpenAI宣布家长控制的X帖子中，一些家长猛烈抨击了这一更新。

在X帖子中，一位自称12岁孩子家长的网友建议OpenAI只提供了“基本上只是一套无用的设置”，要求公司考虑允许家长审查青少年讨论的话题，作为在保护孩子同时保护隐私的一种方式。

但帖子中最响亮的ChatGPT用户大多不是在抱怨家长控制。他们仍然对OpenAI在9月初所做的改变做出反应，即将所有年龄用户的所有敏感聊天路由到不同的推理模型，而不提醒用户模型已切换。

这一改变引发的强烈反对迫使ChatGPT副总裁Nick Turley在宣布家长控制前几天发布的另一个X帖子中“解释发生了什么”。

Turley确认“当被问及时，ChatGPT会告诉你哪个模型是活跃的”，但这次更新从许多付费访问特定模型且对设置无法禁用感到不满的用户那里得到了“强烈反应”。Yahoo Tech总结道：“对于许多在网上发泄愤怒的用户来说，这就像被迫观看带有锁定家长控制的电视，即使周围没有孩子。”

OpenAI宣布家长控制的帖子上的热门评论显示强烈反对仍在酝酿，特别是因为一些用户已经对OpenAI采取检查ID验证用户年龄的侵入性步骤感到沮丧。一些用户抱怨OpenAI在审查成年人，同时为青少年提供定制和选择。

“既然我们已经区分未成年和成年用户，能否请给成年用户自由讨论话题的权利？”一位X用户评论道。“为什么我们作为付费用户不能选择自己的模型，甚至让我们的讨论受到控制？请把成年人当成年人对待。”

如果您或您认识的人感到自杀或陷入困境，请拨打自杀预防生命线号码1-800-273-TALK（8255），这将使您与当地危机中心联系。