Foto: osn.org
Náměstkyně generálního tajemníka OSN pro globální komunikaci Melissa Flemingová vyzvala na zasedání Rady bezpečnosti „Arria Formula“ vývojáře generativní umělé inteligence, aby upřednostnili bezpečnost a práva lidí před ziskem. Zasedání o umělé inteligenci a jejím dopadu na nenávistné projevy, dezinformace a nepravdivé informace (misinformace) společně předsedaly Spojené arabské emiráty a Albánie a zazněly na něm postřehy digitálních expertů Rahafa Harfoushe a Jennifer Woodardové.
Paní Flemingová ve svém vystoupení poznamenala, že generativní umělá inteligence, pokud bude vyvíjena a používána zodpovědně, má potenciál zlepšit lidská práva, včetně přístupu k informacím, zdravotnictví, vzdělávání a veřejným službám.
Vyjádřila však vážné znepokojení nad potenciálem této technologie „dramaticky zintenzivnit online škody“.
Díky generativní umělé inteligenci lze ve velkém měřítku, s velmi nízkými náklady a s malým zásahem člověka, vytvářet velké objemy přesvědčivých dezinformací – od textu přes zvuk až po video.
Takový obsah lze masově šířit nejen v sociálních médiích a prostřednictvím falešných profilů, ale i v dalších personalizovaných kanálech, jako jsou e-mailové kampaně, textové zprávy a reklamy.
Generativní umělá inteligence zanechává jen málo otisků prstů. Pro novináře, ověřovatele faktů, orgány činné v trestním řízení nebo běžné lidi je také mnohem obtížnější odhalit, zda je obsah skutečný, nebo generovaný umělou inteligencí. Paní Flemingová nastínila čtyři oblasti, které jsou pro OSN klíčové:
Mír a bezpečnost: Dezinformace poháněné umělou inteligencí již ohrožují mírové a humanitární operace OSN a ohrožují zaměstnance a civilisty. Více než 70 % příslušníků mírových sil OSN, kteří odpovídali v nedávném průzkumu, uvedlo, že dezinformace a misinformace vážně omezují jejich schopnost vykonávat svou práci.
Porušování lidských práv: Umělá inteligence je využívána k vytváření a šíření škodlivého obsahu, včetně materiálů týkajících se sexuálního zneužívání dětí a nekonsenzuálních pornografických snímků, zejména zaměřených na ženy a dívky. OSN je rovněž hluboce znepokojena tím, že antisemitský, islamofobní, rasistický a xenofobní obsah by mohl být generativní umělou inteligencí přeplněn.
Demokracie v ohrožení: Potenciál umělé inteligence manipulovat s voliči a ovlivňovat veřejné mínění během voleb představuje významnou hrozbu pro demokratické procesy na celém světě.
Podkopávání vědy a veřejných institucí: Nástroje umělé inteligence by například mohly vystupňovat desítky let trvající dezinformační kampaně s cílem zmařit opatření v oblasti klimatu tím, že budou rozšiřovat nepravdivé informace o změně klimatu a obnovitelných zdrojích energie. V pozadí těchto jevů je pokles důvěry veřejnosti ve zpravodajství a informační zdroje.
Paní Flemingová citovala nedávnou zprávu, která zjistila, že od května letošního roku vzrostl počet zpravodajských webů vytvářených umělou inteligencí, které fungují s malým nebo žádným lidským dohledem, ze 49 na téměř 600. Některé z těchto stránek jsou denně naplněny tisíci nových článků. Často napodobují známé zpravodajské weby a chrlí zcela vymyšlené příběhy.
Vzhledem k těmto problémům zřídila OSN poradní orgán pro umělou inteligenci, který má posílit globální správu umělé inteligence. Současně OSN připravuje kodex chování pro informační integritu, který má pomoci zvýšit odolnost společností vůči dezinformacím a nenávisti.
Paní Flemingová vyzvala k vyváženému přístupu k využití přínosů umělé inteligence a zároveň ke zmírnění jejích rizik, přičemž zdůraznila potřebu zdravých informačních ekosystémů pro stabilní a jednotné společnosti. Její poselství bylo jasné – vývojáři AI musí upřednostnit lidi a jejich blaho před ziskem a zajistit, aby technologie sloužila jako síla dobra.
Analýza za asistence AI.
un.ogr/gn.cz-JaV_07
https://www.un.org/en/hate-speech/ai-concerns
French 
Czech 
English 
Spanish 
Italian