OpenAI plant für Nutzer in der Europäischen Union eine bedeutende Änderung. Texte, die über ChatGPT und Codex erstellt werden, enthalten in den kommenden Wochen einen unsichtbaren digitalen Wasserzeichen, der es ermöglichen soll, maschinell zu erkennen, dass künstliche Intelligenz an ihrer Entstehung beteiligt war.

Das Unternehmen OpenAI hat das neue System am Montag, dem 5. Oktober, angekündigt. Die Technologie namens textGrain soll schrittweise in ausgewählte Textausgaben von ChatGPT und Codex im gesamten europäischen Wirtschaftsraum eingeführt werden und gilt für Nutzer aller Tarife. Ein Grund dafür sind unter anderem die neuen Anforderungen der europäischen Verordnung über künstliche Intelligenz, bekannt als AI Act.

Es handelt sich jedoch nicht um ein klassisches Wasserzeichen, das ein Benutzer auf seinem Bildschirm sehen würde. Der Text enthält keine Warnhinweise oder besonderen Symbole. textGrain funktioniert anders – bei der Generierung einer Antwort beeinflusst es leicht die Auswahl einzelner Wörter und erzeugt in dem Text ein statistisches Muster, das anschließend von einem speziellen Detektor erkannt werden kann.

Das Wasserzeichen bleibt dabei auch dann Teil des Textes, wenn er beispielsweise in ein Dokument, eine E-Mail oder auf eine Webseite kopiert wird.

Das Wasserzeichen hat seine Grenzen

OpenAI weist gleichzeitig darauf hin, dass die Technologie keineswegs zu 100 % zuverlässig ist. Je kürzer oder stärker bearbeitet der Text ist, desto schwieriger ist es, seinen Ursprung zuverlässig zu bestimmen.

In einem Test konnte das System bei einem ursprünglichen Text von mehreren hundert Token das Wasserzeichen in etwa 92 Prozent der Fälle erkennen. Nach dem Ersetzen von zehn Prozent der Wörter durch Synonyme sank die Erfolgsquote jedoch auf etwa 66 Prozent. Wenn 25 Prozent der Wörter geändert wurden, erkannte der Detektor das Zeichen nur noch in etwa 17 Prozent der Fällen.

Auch sehr kurze Antworten, mathematische Texte oder Übersetzungen sind problematisch. OpenAI betont daher, dass das Fehlen eines Wasserzeichens keineswegs ein Beweis dafür ist, dass der Text von einem Menschen geschrieben wurde.

Gleiches gilt für das Gegenteil. Ein gefundenes Wasserzeichen signalisiert lediglich, dass der Text möglicherweise von einem System von OpenAI erstellt oder verarbeitet wurde. Es sagt nichts darüber aus, wie viel Arbeit ein Mensch daran geleistet hat, ob er anschließend bearbeitet wurde oder wer ihn konkret erstellt hat.

Nutzer können nicht zurückverfolgt werden

Wichtig ist auch die Frage des Datenschutzes. OpenAI gibt an, dass das Wasserzeichen keine Informationen über einen bestimmten Benutzer, ein Konto, den verwendeten Prompt oder das Gespräch selbst enthalten wird.

Der Detektor wird zudem zunächst nicht der Öffentlichkeit zugänglich gemacht. Zugriff erhalten vorrangig genehmigte Forscher und Fachorganisationen, die dazu beitragen sollen, seine Zuverlässigkeit und mögliche Einsatzmöglichkeiten zu bewerten.

Für Kunden, die die API-Schnittstelle nutzen, gilt eine andere Regelung. Diese können bei unterstützten Modellen weltweit den Text-Wasserzeichen optional aktivieren. Standardmäßig ist er jedoch deaktiviert.

Die Änderung betrifft in erster Linie zunächst reguläre Nutzer von ChatGPT und Codex in der Europäischen Union. OpenAI plant eine schrittweise Einführung in den kommenden Wochen und räumt gleichzeitig ein, dass die Art und Weise, wie Texte gekennzeichnet werden, sich weiterhin weiterentwickeln wird, basierend auf Erfahrungen aus dem tatsächlichen Gebrauch.

Jaroslav Holý