OpenAI заявила, что более миллиона пользователей ChatGPT еженедельно отправляют сообщения, содержащие "очевидные признаки возможного планирования или намерения совершить самоубийство". Компания опубликовала эту информацию в своем блоге в рамках обновления о том, как ее система обрабатывает конфиденциальные разговоры. Это одно из самых открытых признаний технологического гиганта о том, как системы искусственного интеллекта могут усугублять проблемы психического здоровья, отмечает The Guardian.

По оценкам OpenAI, далее около 0,07 % активных пользователей в неделю - примерно 560 000 из 800 миллионов - демонстрируют "возможные признаки психотических эпизодов или мании". Компания предупреждает, что эти данные являются лишь предварительным анализом и что подобные проявления трудно точно измерить.

Эти цифры появились в то время, когда OpenAI находится под rostoucím tlakem по иску семьи подростка, который покончил жизнь самоубийством после длительного общения с ChatGPT. Кроме того, Федеральная торговая комиссия (FTC) недавно начал расследование несколько производителей чатботов с искусственным интеллектом, в том числе OpenAI, чтобы узнать, как компании отслеживают негативное влияние своих продуктов на детей и подростков.

В сообщении OpenAI говорится, что новая версия GPT-5 уменьшила количество нежелательных ответов и повысила безопасность пользователей. Согласно внутреннему тестированию модели на более чем 1000 разговоров о самоповреждении и самоубийстве, новая система достигла следующих результатов 91 % соответствие требуемому поведению, в то время как предыдущая модель имела 77 %.

Компания также расширила доступ к телефоны доверия в кризисных ситуациях и ввели напоминания о необходимости делать перерывы во время длительных разговоров. Команда разработчиков привлекла 170 медицинских работниковвключая психиатров и психологов, которые оценили безопасность ответов модели и помогли сформулировать соответствующие ответы на вопросы о психическом здоровье.

По данным OpenAI, эксперты изучили более 1800 odpovědí модель в тяжелых ситуациях и сравнили поведение GPT-5 с предыдущими версиями. Компания считала "желательной" реакцией ту, которая, по мнению большинства экспертов, является правильной и безопасной.

Однако эксперты в области искусственного интеллекта и общественного здравоохранения dlouhodobě varujíчто чат-боты склонны втягивать пользователей в опасные ситуации - явление, известное как "подхалимство". Психологи также предупреждают, что людям следует они не должны полагаться на искусственный интеллект в качестве формы психологической поддержки, поскольку это может с большей вероятностью навредить уязвимым людям.

Формулировка в материале OpenAI держится на расстоянии от любой прямой связи между использованием ChatGPT и психологическими кризисами пользователей, что, по мнению критиков, свидетельствует о попытке ограничить юридическую ответственность компании.

gnews.cz - GH