OSN – António Guterres v projevu k ministrům a velvyslancům varoval, že rychlý vývoj umělé inteligence předbíhá schopnost lidstva ji řídit, což vyvolává důležité otázky týkající se odpovědnosti, rovnosti, bezpečnosti a lidského dohledu nad rozhodováním.
„Každý okamžik zpoždění při vytváření mezinárodních ochranných zábran zvyšuje riziko pro nás všechny,“ řekl Guterres.
„Žádná země by neměla navrhovat, vyvíjet, nasazovat nebo používat vojenské aplikace umělé inteligence v ozbrojených konfliktech, které porušují mezinárodní humanitární zákony a zákony o lidských právech. To zahrnuje i spoléhání se na UI při autonomním výběru nebo zasahování cílů.“
Zdůraznil také, že geopolitické soupeření o nové technologie nesmí destabilizovat mezinárodní mír a bezpečnost.
Dvojsečná zbraň
Guterres ve svém projevu zdůraznil dvojsečnost umělé inteligence a upozornil na její potenciál předvídat vysídlení způsobené změnou klimatu nebo odhalovat nášlapné miny. Její integrace do vojenských systémů a zneužití v oblasti digitální bezpečnosti však představuje velké riziko.
„Nedávné konflikty se staly zkušebním polem pro vojenské aplikace umělé inteligence,“ uvedl s odkazem na využití AI v autonomním dohledu, prediktivním policejním dohledu a dokonce i v hlášených rozhodnutích o životě a smrti.
Zdůraznil, že obzvláště znepokojující je potenciální integrace AI s jadernými zbraněmi a nástup systémů kvantové AI, které by mohly destabilizovat globální bezpečnost.
„Osud lidstva nesmí být nikdy ponechán na ‚černé skříňce‘ algoritmu,“ prohlásil a zdůraznil význam lidské kontroly nad rozhodnutími zahrnujícími použití síly.
Narušení důvěry
Další oblastí, která vzbuzuje obavy, je role umělé inteligence v informační oblasti, uvedl Guterres a poukázal na to, jak deepfakes a dezinformace vytvářené umělou inteligencí mohou manipulovat s veřejným míněním, vyvolávat krize a podkopávat důvěru ve společnosti.
Upozornil také na environmentální rizika UI a zdůraznil náročnost datových center na zdroje a geopolitickou soutěž o kritické nerostné suroviny potřebné pro technologie UI.
„Bezprecedentní globální výzvy vyžadují bezprecedentní globální spolupráci,“ řekl a vyzval ke společnému úsilí, které by zajistilo, že z UI budou mít prospěch všichni a nebude prohlubovat nerovnosti.
Výzva k vytvoření globálního rámce
Guterres nastínil nedávné kroky k vytvoření globální správy pro UI, včetně přijetí Globálního digitálního paktu OSN na Summitu budoucnosti a dvou klíčových rezolucí Valného shromáždění o posílení globální spolupráce a budování kapacit.
Třetí rezoluci – zaměřenou na UI ve vojenské oblasti – má Valné shromáždění projednat v nadcházejících dnech.
V závěru svého vystoupení Guterres zopakoval svou výzvu k zákazu smrtících autonomních zbraní a vyzval Radu bezpečnosti, aby šla příkladem a zabránila militarizaci UI způsobem, který destabilizuje mezinárodní mír a bezpečnost.
„Naléhavě vás všechny vyzývám, abyste spojili své síly a vybudovali bezpečnou a inkluzivní budoucnost UI.“
news.un.org / gnews.cz-jav
Czech 
English 
Spanish 
French 
Italian 
Russian 
Chinese 
German