OpenAI sagte, dass mehr als eine Million ChatGPT-Benutzer pro Woche Nachrichten senden, die "offensichtliche Anzeichen einer möglichen Selbstmordplanung oder -absicht" enthalten. Das Unternehmen veröffentlichte die Informationen in seinem Blog als Teil eines Updates darüber, wie sein System mit sensiblen Gesprächen umgeht. Es ist eines der offensten Eingeständnisse des Tech-Giganten darüber, wie KI-Systeme psychische Gesundheitsprobleme verschlimmern können, wie The Guardian hervorhob.

OpenAI schätzt außerdem, dass etwa 0,07 % aktive Nutzer pro Woche - etwa 560.000 von 800 Millionen - zeigen "mögliche Anzeichen von psychotischen Episoden oder Manie". Das Unternehmen wies darauf hin, dass es sich bei diesen Daten nur um eine vorläufige Analyse handelt und dass solche Erscheinungen nur schwer genau zu messen sind.

Diese Zahlen kommen zu einer Zeit, in der OpenAI unter rostoucím tlakem wegen eines Rechtsstreits mit der Familie eines Teenagers, der nach ausgiebiger Kommunikation mit ChatGPT Selbstmord begangen hatte. Außerdem hat die Federal Trade Commission (FTC) kürzlich hat eine Untersuchung eingeleitet mehrere KI-Chatbot-Hersteller, darunter OpenAI, um zu erfahren, wie Unternehmen die negativen Auswirkungen ihrer Produkte auf Kinder und Jugendliche verfolgen.

OpenAI sagte in einem Beitrag, dass die neue Version GPT-5 die Häufigkeit unerwünschter Antworten verringert und die Sicherheit der Nutzer verbessert. Nach internen Modellversuchen mit mehr als 1.000 Gesprächen über Selbstverletzung und Selbstmord erreichte das neue System 91 % Einhaltung des geforderten Verhaltens, während das Vorgängermodell 77 % hatte.

Das Unternehmen hat auch den Zugang zu Krisennotrufe und führte Erinnerungen für die Nutzer ein, damit sie bei langen Gesprächen Pausen machen können. Das Entwicklungsteam beteiligte 170 Angehörige der Gesundheitsberufedarunter Psychiater und Psychologen, die die Sicherheit der Antworten des Modells bewerteten und bei der Formulierung geeigneter Antworten auf Fragen zur psychischen Gesundheit halfen.

Nach Angaben von OpenAI haben die Experten über 1800 odpovědí Modell in schweren Situationen und verglich das Verhalten von GPT-5 mit früheren Versionen. Das Unternehmen betrachtete die "wünschenswerte" Reaktion als diejenige, die nach Ansicht der meisten Experten angemessen und sicher ist.

Doch Experten für künstliche Intelligenz und öffentliche Gesundheit dlouhodobě varujídass Chatbots dazu neigen, sich mit Nutzern in gefährliche Situationen zu begeben - ein Phänomen, das als "Kriecherei" bekannt ist. Psychologen warnen außerdem, dass Menschen sie sollten sich nicht auf die KI verlassen als eine Form der psychologischen Unterstützung, da sie gefährdeten Personen eher schaden könnte.

Die Formulierung im OpenAI-Beitrag hält sich von jeder direkten Verbindung fern zwischen der Nutzung von ChatGPT und den psychischen Krisen der Nutzer - was nach Ansicht von Kritikern darauf hindeutet, dass das Unternehmen versucht, seine rechtliche Haftung zu begrenzen.

gnews.cz - GH