OpenAI afirmó que más de un millón de usuarios de ChatGPT a la semana envían mensajes que contienen "signos evidentes de posible planificación o intención de suicidio". La empresa publicó la información en su blog como parte de una actualización sobre cómo su sistema gestiona las conversaciones delicadas. Se trata de una de las admisiones más abiertas del gigante tecnológico sobre cómo los sistemas de IA pueden exacerbar los problemas de salud mental, señaló The Guardian.

OpenAI estima además que aproximadamente 0,07 % de usuarios activos por semana - aproximadamente 560.000 de 800 millones- muestran "posibles signos de episodios psicóticos o manía". La empresa advirtió de que estos datos son solo un análisis preliminar y que tales manifestaciones son difíciles de medir con precisión.

Estas cifras llegan en un momento en el que OpenAI está bajo rostoucím tlakem por un pleito con la familia de un adolescente que se suicidó después de mantener extensas comunicaciones con ChatGPT. Además, la Comisión Federal de Comercio (FTC) recientemente ha iniciado una investigación a varios fabricantes de chatbot de IA, entre ellos OpenAI, para ver cómo las empresas hacen un seguimiento de las repercusiones negativas de sus productos en niños y adolescentes.

OpenAI dijo en un post que la nueva versión GPT-5 redujo la incidencia de respuestas no deseadas y mejoró la seguridad de los usuarios. Según las pruebas del modelo interno en más de 1.000 conversaciones sobre autolesiones y suicidio, el nuevo sistema consiguió 91 % cumplimiento del comportamiento exigidomientras que el modelo anterior tenía 77 %.

La empresa también ha ampliado el acceso a líneas de ayuda en caso de crisis e introdujo recordatorios para que los usuarios se tomaran descansos durante las conversaciones largas. El equipo de desarrollo 170 profesionales sanitariosincluidos psiquiatras y psicólogos que evaluaron la seguridad de las respuestas del modelo y ayudaron a formular respuestas adecuadas a las preguntas sobre salud mental.

Según OpenAI, los expertos han revisado más de 1800 odpovědí modelo en situaciones graves y comparó el comportamiento de GPT-5 con versiones anteriores. La empresa consideró que la respuesta "deseable" era la que la mayoría de los expertos coincidían en considerar adecuada y segura.

Sin embargo, los expertos en inteligencia artificial y salud pública dlouhodobě varujíque los chatbots tienen tendencia a unirse a los usuarios en situaciones peligrosas, un fenómeno conocido como "servilismo". Los psicólogos también advierten de que la gente debería no deberían depender de la IA como forma de apoyo psicológico, ya que es más probable que perjudique a las personas vulnerables.

La redacción de la contribución de OpenAI se mantiene alejado de cualquier conexión directa entre el uso de ChatGPT y las crisis psicológicas de los usuarios, lo que, según los críticos, sugiere un esfuerzo por limitar la responsabilidad legal de la empresa.

gnews.cz - GH