Arcibiskup Gallagher: Technologie nesmí nahrazovat lidský úsudek v otázkách života a smrti

VATIKÁN – Na veřejné debatě v Radě bezpečnosti OSN v New Yorku vatikánský sekretář pro vztahy se státy a mezinárodními organizacemi zdůraznil „naléhavou realitu“ rizik spojených s vývojem umělé inteligence ve vojenské oblasti. Zopakoval výzvu Svatého stolce k „okamžitému moratoriu“ na autonomní smrtící zbraně a poukázal na nebezpečí používání umělé inteligence v systémech jaderného velení a řízení.

Isabella H. de Carvalho – Vatikán

Je třeba uplatňovat „přístup zaměřený na člověka při vývoji a používání nových technologií“, zejména v oblasti vojenství, protože tyto technologie nemohou nahradit „lidský úsudek v otázkách života a smrti“, neboť by překročily hranice, „které nikdy nesmí být překročeny“. Toto je výzva arcibiskupa Paula Richarda Gallaghera, sekretáře pro vztahy se státy a mezinárodními organizacemi, která zazněla v jeho projevu na otevřené debatě, která se konala 24. září v sídle OSN v New Yorku.

Setkání, které zorganizovala Rada bezpečnosti OSN, bylo věnováno tématu umělé inteligence a mezinárodního míru a bezpečnosti. Mons. Gallagher zdůraznil, že „pokud vývoj a používání umělé inteligence nejsou pevně zakotveny v úctě k lidské důstojnosti a hledání společného dobra“, hrozí, že se stanou „nástroji rozdělení a agrese“ a „podnítí další konflikty“. Nejedná se o „abstraktní nebo vzdálenou obavu“, ale o „naléhavou realitu, vzhledem k současné globální nestabilitě a rychlé integraci umělé inteligence do konvenčních a jaderných zbraňových systémů“.

Moratorium na smrtící autonomní zbraně

Jak bylo v posledních letech často zdůrazňováno, sekretář pro vztahy se státy znovu potvrdil, že Svatý stolec „důrazně podporuje přijetí okamžitého moratoria na vývoj“ smrtících autonomních zbraňových systémů (lethal autonomous weapon systems, LAWS). Realizace těchto technologií „vyvolává vážné obavy“ mezinárodního společenství na právní, humanitární, etické a bezpečnostní úrovni, protože se jedná o systémy „bez lidské schopnosti“ morálního úsudku a etického rozlišování. Svatý stolec, pokračoval arcibiskup Gallagher, vyzývá k vytvoření „právně závazného nástroje, který zajistí, že rozhodnutí o životě a smrti zůstanou pod významnou lidskou kontrolou“.

Arcibiskup Gallagher dále označil za „stejně znepokojivou“ hrozbu „nového zbrojního závodu, který se vyznačuje integrací umělé inteligence do vojenských systémů“, včetně kosmických technologií a protiraketové obrany. Podle vatikánského diplomata hrozí, že tento kontext „změní povahu zbraní a války“ a vytvoří „bezprecedentní úroveň nejistoty“. Zejména použití „umělé inteligence v systémech jaderného velení a řízení“, pokračoval, by mohlo vést k „novým neznámým rizikům, která daleko přesahují již tak křehkou a morálně spornou logiku odstrašování“.

Úloha Rady bezpečnosti

Arcibiskup Gallagher nakonec vyzdvihl, že Rada bezpečnosti má „primární odpovědnost za udržování mezinárodního míru a bezpečnosti“ a proto musí „věnovat zvláštní pozornost vědeckému a technologickému pokroku“, který se odehrává v současném světě. Poté poděkoval Jižní Koreji za svolání debaty o tomto aktuálním tématu a objasnil, že umělá inteligence již má „hluboký dopad“ na oblasti jako vzdělávání, svět práce, komunikace, zdravotnictví a další. Tato technologie, jak poznamenal, „má potenciál pomoci realizovat“ aspirace, „které vedly k vytvoření Organizace spojených národů před osmdesáti lety“, jako je mír, bezpečnost a zaručení svobody a lidských práv.

vaticannews.va/gnews.cz-jav