UN-Chef für globale Kommunikation fordert KI-Entwickler auf, "Menschen vor Profit" zu stellen

Foto: osn.org

Die UN-Untergeneralsekretärin für globale Kommunikation, Melissa Fleming, rief die Entwickler generativer KI auf der Sitzung des Sicherheitsrats zur "Arria-Formel" dazu auf, Sicherheit und Menschenrechte über den Profit zu stellen. Die Sitzung über KI und ihre Auswirkungen auf Hassreden, Fehlinformationen und Falschinformationen wurde gemeinsam von den Vereinigten Arabischen Emiraten und Albanien geleitet und bot Einblicke von Digitalexperten wie Rahaf Harfoush und Jennifer Woodard.

In ihrer Rede wies Frau Fleming darauf hin, dass generative KI, wenn sie verantwortungsvoll entwickelt und eingesetzt wird, das Potenzial hat, die Menschenrechte zu verbessern, einschließlich des Zugangs zu Informationen, Gesundheit, Bildung und öffentlichen Dienstleistungen.

Sie äußerte sich jedoch ernsthaft besorgt über das Potenzial dieser Technologie, "Online-Schäden dramatisch zu verstärken".

Dank generativer künstlicher Intelligenz können große Mengen überzeugender Fehlinformationen - von Text über Audio bis hin zu Video - in großem Maßstab, zu sehr geringen Kosten und mit wenig menschlichem Zutun erstellt werden.

Solche Inhalte können nicht nur in sozialen Medien und über gefälschte Profile massenhaft verbreitet werden, sondern auch über andere personalisierte Kanäle wie E-Mail-Kampagnen, Textnachrichten und Werbung.

Generative KI hinterlässt nur wenige Fingerabdrücke. Außerdem ist es für Journalisten, Faktenprüfer, Strafverfolgungsbehörden oder normale Menschen viel schwieriger zu erkennen, ob ein Inhalt echt oder von KI generiert ist. Frau Fleming skizzierte vier Bereiche, die für die UNO von zentraler Bedeutung sind:

Frieden und Sicherheit: KI-gesteuerte Desinformationen bedrohen bereits die friedenserhaltenden und humanitären Operationen der UN und gefährden Mitarbeiter und Zivilisten. Mehr als 70 % UN-Friedenssoldaten, die an einer kürzlich durchgeführten Umfrage teilgenommen haben, gaben an, dass Fehlinformationen und Desinformationen ihre Fähigkeit, ihre Arbeit zu erledigen, stark einschränken.

Menschenrechtsverletzungen: Künstliche Intelligenz wird eingesetzt, um schädliche Inhalte zu erstellen und zu verbreiten, darunter Material über den sexuellen Missbrauch von Kindern und nicht einvernehmliche pornografische Bilder, die sich insbesondere gegen Frauen und Mädchen richten. Die UN sind auch sehr besorgt darüber, dass antisemitische, islamfeindliche, rassistische und fremdenfeindliche Inhalte durch generative KI verbreitet werden könnten.

Demokratie in Gefahr: Das Potenzial künstlicher Intelligenz zur Manipulation von Wählern und zur Beeinflussung der öffentlichen Meinung bei Wahlen stellt eine erhebliche Gefahr für demokratische Prozesse weltweit dar.

Untergrabung der Wissenschaft und öffentlicher Einrichtungen: KI-Werkzeuge könnten beispielsweise jahrzehntelange Desinformationskampagnen eskalieren lassen, um Klimaschutzmaßnahmen durch die Verbreitung falscher Informationen über den Klimawandel und erneuerbare Energien zu untergraben. Diesen Phänomenen liegt ein Rückgang des öffentlichen Vertrauens in Nachrichten und Informationsquellen zugrunde.

Frau Fleming zitierte einen aktuellen Bericht, demzufolge seit Mai dieses Jahres die Zahl der KI-generierten Nachrichtenseiten, die ohne oder mit nur wenig menschlicher Aufsicht arbeiten, von 49 auf fast 600 gestiegen ist. Einige dieser Websites werden täglich mit Tausenden von neuen Artikeln gefüllt. Oft imitieren sie bekannte Nachrichtenseiten und verbreiten völlig erfundene Geschichten.

Angesichts dieser Herausforderungen haben die Vereinten Nationen ein KI-Beratungsgremium eingerichtet, um die globale Governance der KI zu stärken. Gleichzeitig entwickeln die Vereinten Nationen einen Verhaltenskodex für die Integrität von Informationen, um die Gesellschaften widerstandsfähiger gegen Fehlinformationen und Hassreden zu machen.

Frau Fleming rief zu einem ausgewogenen Ansatz auf, um die Vorteile der KI zu nutzen und gleichzeitig ihre Risiken abzumildern, und betonte die Notwendigkeit gesunder Informationsökosysteme für stabile und einheitliche Gesellschaften. Ihre Botschaft war klar: KI-Entwickler müssen die Menschen und ihr Wohlergehen über den Profit stellen und dafür sorgen, dass die Technologie eine Kraft für das Gute ist.

KI-unterstützte Analyse.

un.ogr/gn.cz-JaV_07

https://www.un.org/en/hate-speech/ai-concerns