OpenAI 表示，每周有超过一百万的 ChatGPT 用户发送含有 "可能计划或意图自杀的明显迹象 "的信息。该公司在其博客上发布了这一信息，作为其系统如何处理敏感对话的更新的一部分。卫报》指出，这是科技巨头对人工智能系统如何加剧心理健康问题最公开的承认之一。

OpenAI 还估计 每周约有 0.07 % 活跃用户 - 在 8 亿人中，约有 56 万人表现出 "可能的精神病发作或躁狂症迹象"。该公司告诫说，这些数据只是初步分析，此类表现难以准确测量。

这些数字的出现正值 OpenAI 面临以下挑战之际 rostoucím tlakem 此外，联邦贸易委员会（FTC）最近 已展开调查 包括 OpenAI 在内的几家人工智能聊天机器人制造商，以了解公司如何跟踪其产品对儿童和青少年的负面影响。

OpenAI 在一篇文章中说，新版本 GPT-5 减少了不必要的回复，提高了用户安全性。根据对 1,000 多次有关自残和自杀的对话进行的内部模型测试，新系统达到了以下效果 91 % 遵守行为要求而以前的型号有 77 台 %。

该公司还扩大了 危机求助热线 并为用户在长时间交谈时提供休息提醒。开发团队参与了 170 名卫生专业人员包括精神科医生和心理学家，他们评估了模型回答的安全性，并帮助制定了对心理健康问题的适当回答。

据 OpenAI 称，专家们已经审查了超过 1800 odpovědí 在严重情况下的模型，并将 GPT-5 的行为与以前的版本进行了比较。该公司认为，"理想的 "反应是大多数专家一致认为适当和安全的反应。

然而，人工智能和公共卫生专家 dlouhodobě varují聊天机器人往往会与用户一起陷入危险境地--这种现象被称为 "佞幸"。心理学家还警告说，人们应该 他们不应该依赖人工智能 作为心理支持的一种形式，因为它可能更容易伤害弱势人群。

OpenAI 提交的文件中的措辞 与任何直接联系保持距离 使用 ChatGPT 与用户心理危机之间的关系--批评者认为，这表明该公司在努力限制其法律责任。

gnews.cz - GH