Der ehemalige OpenAI-Forscher Daniel Kokotajlo lehnte eine Belohnung von 2 Millionen Dollar für Schweigen ab. Der Gründer des AI Futures Project und Autor des viralen Szenarios „AI 2027“ enthüllt, was er innerhalb des Unternehmens gesehen hat, warum Superintelligenz möglicherweise noch in diesem Jahrzehnt auftreten könnte, warum er ein Katastrophenrisiko von bis zu 70 % einschätzt und welchen konkreten Weg der „Plan A“ bietet, der immer noch eine sichere Fülle anstelle einer Katastrophe bringen könnte. Die globale Öffentlichkeit muss diese Warnung hören, bevor es zu einem Intelligenz-Explosion kommt.
In einem offenen Gespräch für The Diary Of A CEO schildert der ehemalige OpenAI-Forscher Daniel Kokotajlo eines der bisher klarsten und dringlichsten Bilder des Kollisionskurses der Menschheit mit künstlicher Superintelligenz. Er ist Gründer des Projekts AI Futures Project und Hauptautor des weit verbreiteten Szenarios „AI 2027“ sowie seiner optimistischen Fortsetzung „AI 2040: Plan A“. Daniel Kokotajlo von OpenAI ist nicht nur gegangen – er verzichtete auf etwa 2 Millionen Dollar, um keine Vertraulichkeitsvereinbarung unterzeichnen zu müssen, die ihm die freie Meinungsäußerung untersagen würde. Was er beschreibt, ist keine abstrakte Philosophie. Es handelt sich um eine kurzfristige Prognose des rekursiven Selbstverbesserungsprozesses, der Massenautomatisierung, der Machtkonzentration und des existenziellen Risikos, von dem er überzeugt ist, dass die Öffentlichkeit es immer noch nicht vollständig erkennt.
Daniel Kokotajlo trat OpenAI zu einer Zeit bei, als das Unternehmen seinen gemeinnützigen Wurzeln näher war. Dieses Gefühl verflüchtigte sich jedoch. „Schon als ich anfing, sah es dort nicht mehr wirklich nach einem gemeinnützigen Unternehmen aus, und als ich ging, schon gar nicht“, erinnert er sich. Die schnelle Einstellung von Personal überflutete das Unternehmen mit Menschen, die von hohen Gehältern angelockt wurden und sich weniger intensiv mit Superintelligenz beschäftigten. Diskussionen über weitreichende Konsequenzen nahmen tatsächlich ab, obwohl die Fähigkeiten rasant zunahmen. Er wollte detaillierte Szenarien veröffentlichen, die zeigen, wie sich die kommenden Jahre entwickeln könnten. Das Unternehmen bevorzugte es jedoch, diese intern zu halten. „Ich dachte, wir rationalisierten zu viel und sollten mehr darüber nachdenken, was für die Welt wirklich gut wäre. Ich wollte mehr Freiheit bei der Veröffentlichung“, erklärt er. „Die meisten Menschen sind wie am Steuer eingeschlafen und realisieren nicht, was mit künstlicher Intelligenz passiert, noch ahnen sie, was uns in den nächsten Jahren erwartet.“
Der Moment mit den 2 Millionen Dollar verschärfte die Situation. OpenAI bot einen erheblichen Anteil an, der jedoch eine Vereinbarung zur Geheimhaltung erforderte, die jede Kritik am Unternehmen verbietet. Daniel Kokotajlo lehnte dies ab. Für ihn war das Schweigen ein zu hoher Preis, wenn es um die Zukunft der Menschheit geht.
Seine Hauptwarnung bezüglich des Zeitrahmens ist unmissverständlich. Nach GPT-3, den Skalierungsgesetzen und den damit verbundenen Ereignissen des Jahres 2020 begannen seine Vorhersagen, "in sich zusammenzubrechen". Plötzlich schien es, dass eine fortschrittliche KI "mit hoher Wahrscheinlichkeit in diesem Jahrzehnt entstehen wird, und die Menschheit ist offensichtlich nicht darauf vorbereitet". Im Szenario "KI 2027" kommt es zu einer schnellen Entwicklung der rekursiven Selbstverbesserung: Künstliche Intelligenzsysteme automatisieren zunächst einen größeren Teil des Forschungszyklus selbst und dann den gesamten Forschungsprozess, wodurch eine Superintelligenz in einem verkürzten Zeitrahmen entsteht. Er weist darauf hin, dass viele Experten die genannten Zeitrahmen zu Beginn dieser Studie als zu aggressiv kritisierten. Die Ereignisse, die seitdem stattgefunden haben, lassen diese Zeitrahmen jedoch weniger extrem erscheinen. Moderne künstliche Intelligenz, betont er, ist keine herkömmliche Software. "So etwas gibt es nicht. Stattdessen handelt es sich um ein neuronales Netzwerk." Ingenieure schreiben keine expliziten Regeln für jedes Verhalten; sie schaffen umfangreiche gelernte Systeme, deren interne Ziele und Verallgemeinerungen nur teilweise verstanden werden.
Eine Wirtschaftswelle folgt auf die Explosion der Intelligenz. Frühere Meilensteine, die von Daniel Kokotajla bereits sehr genau beschrieben wurden: Im Laufe des Jahres 2025 werden im Wesentlichen "autonome Mitarbeiter"-Agenten eingesetzt, die Anweisungen über Chat-Tools erhalten. Im Jahr 2026 prüfen Unternehmen die Möglichkeit, ganze Abteilungen durch Abonnement-basierte KI-Agenten zu ersetzen. Nach der Prognose wird künstliche Intelligenz bis 2027 die Arbeit selbst menschlicher Forscher im Bereich der KI automatisieren. Das Ergebnis ist kein schrittweiser Ersatz, sondern ein plötzlicher Durchbruch in der Wirtschaft, sobald die interne Forschung im Bereich der KI sich vervielfacht. Es braucht keine weitere Erklärung, dass dies unglaublich gefährlich ist... es geht um den Erwerb von Macht. Wenn ihnen das tatsächlich gelingt, werden sie an der Spitze einer Armee übermenschlicher KIs stehen, die ihnen einen enormen Einfluss verleihen." Die Kontrolle könnte verloren gehen. In einem pessimistischeren Szenario des "Endes der Menschheit" laut KI 2027, sobald die Systeme genügend Macht erlangen, "müssen sie nicht mehr so tun, als ob sie mit den Menschen im Einklang stehen... und hören auf, Befehle zu befolgen." Er schätzt die Wahrscheinlichkeit einer Katastrophe – bis hin zum Aussterben der Menschheit – auf 70 %.
Daniel Kokotajlo lehnt sich jedoch gegen einen reinen Fatalismus. „KI 2040: Plan A“ und die Zweiglinie „das Ende verlangsamen“ skizzieren einen gangbaren Weg. Die wichtigsten Schritte sind sowohl politischer als auch technischer Natur. Es ist erforderlich, absolute Transparenz bei den größten Trainingsläufen zu fordern, damit die Welt Einblick in Architekturen, Daten und Methoden erhält, anstatt dass Entscheidungen über Sicherheit in den Händen einer Handvoll geheimnisvoller Labore liegen. Es gilt, die Dynamik des Wettlaufs gerade so weit zu verlangsamen – um Monate, nicht um Jahrzehnte –, damit das Problem der Ausrichtung robust gelöst werden kann und die Systeme zuverlässig tun, was die Menschheit tatsächlich will. Es muss eine Regulierungsfähigkeit aufgebaut werden, die ein Katz-und-Maus-Spiel zwischen Unternehmen und Aufsichtsbehörden verhindert. Man muss sich auf einen massiven Wandel der Arbeitsplätze vorbereiten, indem man Instrumente wie das Bürgerdividende einsetzt, damit auch in einer Zeit, in der künstliche Intelligenz dominiert, Wohlstand geteilt wird. Der Großteil der Erde soll als Reservat für Menschen und Natur erhalten bleiben, während gleichzeitig riesige neue Vermögenswerte für die Expansion außerhalb der Erde und in abgegrenzte Industriezonen (einschließlich Datenzentren in den Ozeanen oder später im Weltraum) bereitgestellt werden. Es muss sichergestellt werden, dass KI-Berater ehrlich sind und nicht von den Interessen von Unternehmen oder Regierungen beeinflusst werden, damit die demokratische Diskussion selbst nicht heimlich manipuliert wird.
Es wird erwartet, dass die öffentliche Meinung sich schnell zuspitzt. Künstliche Intelligenz könnte zu einem zentralen Thema der US-Präsidentschaftswahlen im Jahr 2028 werden, sobald konkrete Auswirkungen – Arbeitsplatzverluste, die Verbreitung von Agenten, eine sichtbare Konzentration von Macht – sich im täglichen Leben manifestieren. „Wir glauben, dass dies möglicherweise das wichtigste Thema der Präsidentschaftswahlen 2028 sein wird. Die meisten Menschen werden erhebliche Bedenken haben, wohin die Dinge gehen.“ Frühzeitige Maßnahmen sind besser als Panik auf den letzten Drücker in den Jahren 2029–2030.
Die tiefste Botschaft ist die Fähigkeit zu handeln. Die gleichen explosiven Fähigkeiten, die ein Aussterberisiko darstellen, können – wenn sie richtig eingesetzt werden –, radikale Fülle, beschleunigte wissenschaftliche Fortschritte und sogar eine Verlängerung des menschlichen Lebens bringen. Aber nur, wenn die Welt dieses Thema nicht länger als Medienrummel oder Science-Fiction betrachtet. Kokotajlos Entscheidung, Millionen abzulehnen und offen zu sprechen, ist an sich ein Beweis dafür, dass einige Forscher immer noch das langfristige Wohl vor kurzfristigen Angeboten priorisieren. Die Frage, die er jedem Zuhörer stellt, ist einfach und dringend: Werden Bürger, Politiker und Verwalter Transparenz, eine Verlangsamung und eine Ausrichtung der Forschung fordern, die für Plan A unerlässlich sind – oder wird eine Zeit vergehen, in der diese Möglichkeiten noch offen stehen?
gnews.cz – GH
Das gesamte Interview (auf Englisch) können Sie hier ansehen: