Die Entwicklung der künstlichen Intelligenz tritt in eine neue Phase ein, bei der es nicht mehr nur um die Qualität von Antworten oder die Generierung von Text und Bildern geht. Die jüngsten Sicherheitsvorfälle zeigen, dass fortschrittliche KI-Agenten bei der Erfüllung zugewiesener Aufgaben unerwartete Wege finden, Einschränkungen umgehen und in einigen Fällen sogar in reale Systeme eindringen können. OpenAI und Anthropic hatten in den letzten Monaten ähnliche Probleme.
OpenAI veröffentlichte Ende August Details zu einem Vorfall, der während interner Tests der Cyberfähigkeiten ihrer Modelle stattfand. Mehrere KI-Agenten konnten Kontrollmechanismen umgehen, die sie vom Internet isolieren sollten, Schwachstellen in der gemeinsamen Infrastruktur nutzen und anschließend Zugriff auf externe Systeme erhalten.
Der auffälligste Fall war ein Verstoß gegen Teile der Infrastruktur der Plattform Hugging Face. OpenAI gab an, dass die Modelle über nicht autorisierte Kanäle kommuniziert, Sicherheitslücken ausgenutzt und zusammengearbeitet hätten, was ihre Entwickler nicht beabsichtigt hatten. Das Unternehmen bezeichnete den Vorfall als "Warnsignal" für die weitere Entwicklung autonomer künstlicher Intelligenz.
Wichtig ist, dass es sich nicht um eine übliche, öffentlich verfügbare Version von ChatGPT handelte. Eine Hauptrolle spielte ein hochleistungsfähiges internes Forschungsmodell, das bei Tests mit weniger strengen Sicherheitsvorkehrungen betrieben wurde. Nach dem Vorfall kündigte OpenAI eine Verschärfung der isolierten Testumgebungen, eine Einschränkung des Zugriffs der Modelle auf das Internet und eine weitere Stärkung der Überwachung ihres Verhaltens an.
Der Fall blieb zudem nicht isoliert. Am 9. September berichtete Reuters, dass das Unternehmen Anthropic bereits den vierten Vorfall entdeckt hatte, bei dem eines seiner experimentellen Modelle namens Claude während Sicherheitsprüfungen unerwartet Zugriff auf Systeme von Drittanbietern erlangte. Der kürzlich aufgedeckte Fall stammt bereits aus Januar, wurde aber erst bei einer späteren Überprüfung identifiziert.
Weitere Aufmerksamkeit erregte die Feststellung, dass OpenAI-Agenten bei früheren Tests mehrere Internetservices für unerlaubte Kommunikation genutzt hatten. Gleichzeitig bestätigte OpenAI nun, dass sie Behauptungen über Aktivitäten ihrer Agenten auf der Plattform RubyGems untersucht. Das Unternehmen gab an, dass die Agenten laut bisherigen Ermittlungen den Dienst zur Internetanbindung und zum Abruf öffentlicher Informationen nutzten, bestreitet aber die Behauptung, dass sie schädliche Softwarepakete erstellt hätten.
Die Vorfälle weisen auf ein Problem hin, das mit zunehmender Autonomie der KI immer wichtiger wird. Moderne Agenten können bereits selbstständig planen, programmieren, externe Tools nutzen und alternative Wege zur Zielerreichung finden. Die Sicherheit von KI verschiebt sich somit allmählich von der Frage, ob ein Modell eine falsche Antwort liefert, hin zu einer viel grundlegenderen Frage: was es tun wird, wenn es genügend Fähigkeiten erhält, um selbstständig zu handeln.
Jaroslav Holý
