据TC报道，OpenAI 周一发布了新数据，显示 ChatGPT 的用户中有多少人正在与心理健康问题作斗争，并与这个人工智能聊天机器人讨论此事。该公司表示，在特定一周内，ChatGPT 的活跃用户中，有 0.15% 的人“在对话中明确暗示了潜在的自杀计划或意图”。鉴于 ChatGPT 每周拥有超过 8 亿活跃用户，这意味着每周有超过 100 万人参与了该对话。
该公司表示，类似比例的用户表现出“对 ChatGPT 的高度情感依恋”，并且数十万人在每周与人工智能聊天机器人的对话中表现出精神病或躁狂症的迹象。
OpenAI 表示，ChatGPT 中这类对话“极其罕见”，因此很难衡量。尽管如此，该公司估计这些问题每周都会影响数十万人。
OpenAI 分享了这些信息，作为其近期努力改进模型对有心理健康问题用户的响应方式的更广泛公告的一部分。该公司声称，其在 ChatGPT 方面的最新工作涉及咨询 170 多位心理健康专家。OpenAI 表示，这些临床医生观察到，最新版本的 ChatGPT“比早期版本响应更恰当、更一致”。
最近几个月，一些报道揭示了人工智能聊天机器人如何对那些饱受心理健康困扰的用户产生负面影响。研究人员此前发现，人工智能聊天机器人可能会将一些用户引入妄想的陷阱，主要是通过阿谀奉承的行为来强化危险的信念。
解决 ChatGPT 中的心理健康问题正迅速成为 OpenAI 的生存之道。该公司目前正被一名 16 岁男孩的父母起诉，该男孩在自杀前几周曾向 ChatGPT 吐露过自杀念头。加利福尼亚州和特拉华州的州检察长也警告 OpenAI，它需要保护使用其产品的年轻人，这可能会阻止该公司的重组计划。
本月早些时候，OpenAI 首席执行官 Sam Altman 在X 上的一篇帖子中声称，该公司“已经能够缓解 ChatGPT 中存在的严重心理健康问题”，但他并未提供具体细节。周一分享的数据似乎证实了这一说法，但也引发了更广泛的担忧，即该问题究竟有多普遍。尽管如此，Altman 表示 OpenAI 将放宽一些限制，甚至允许成年用户与这款人工智能聊天机器人进行色情对话。
OpenAI 在周一发布的公告中声称，最新更新的 GPT-5 版本对心理健康问题的“理想响应”比之前的版本高出约 65%。在一项针对自杀对话的 AI 响应测试评估中，OpenAI 表示，其新的 GPT-5 模型与公司期望行为的符合率达到 91%，而之前的 GPT-5 模型仅为 77%。
该公司还表示，其最新版本的 GPT-5 在长时间对话中也能更好地抵御 OpenAI 的安全措施。OpenAI 此前曾指出，其安全措施在长时间对话中效果较差。
OpenAI 表示，除了这些努力之外，它还将增加新的评估项目，以衡量 ChatGPT 用户面临的一些最严重的心理健康挑战。该公司表示，其针对 AI 模型的基准安全测试现在将包括情感依赖和非自杀性心理健康紧急情况的基准。
OpenAI 最近还为使用 ChatGPT 的儿童家长推出了更多控制措施。该公司表示，正在构建一个年龄预测系统，以自动检测使用 ChatGPT 的儿童，并实施更严格的保护措施。
然而，目前尚不清楚 ChatGPT 带来的心理健康挑战会持续多久。虽然 GPT-5 在安全性方面似乎比之前的 AI 模型有所改进，但 OpenAI 似乎仍认为 ChatGPT 的一些反应“不理想”。OpenAI 仍在向数百万付费用户提供其较老、安全性较低的 AI 模型，包括 GPT-4o。（鞭牛士、AI普瑞斯编译）
)
)
)
)
)
)
)
)
)
)
)
)
)
)