Papež varoval před dopady umělé inteligence. Vyzval k důsledné regulaci

Dezinformace podle hlavy katolické církve našly v umělé inteligenci (AI) „mocný zesilovač“ díky schopnosti manipulovat s obsahem, obrázky a videi, což lidi vystavuje zaujatým či zavádějícím pohledům. Internet by měl být podle něj vnímán jako prostředí, v němž může dozrát vnitřní svoboda a kritické myšlení, a nikoli jako nástroj nadměrného rozptylování nebo dominance. Papež připomněl i vydírání nebo sexuální vykořisťování nezletilých v on-line prostoru kvůli falešným profilům či nástrojům AI, které jsou schopné manipulovat s obrázky a videi.

Lev XIV. vyzval k důsledné regulaci AI a k tomu, aby její vývojáři usilovali spíše o společné dobro než o zisk. Odsoudil „kulturu moci“, kterou pohání závod v oblasti umělé inteligence, zejména při vývoji stále dokonalejších metod vedení vzdálené války. Podle něj také není přípustné svěřovat systémům AI nezvratná a smrtelná rozhodnutí, čímž podle AP vyvolal další spor s americkým prezidentem Donaldem Trumpem.

Související

Lev XIV. si potřeboval změnit údaje v bance. Když řekl, že je papež, operátorka zavěsila

Encyklika opakovaně kritizuje koncentraci moci a dat v rukou malého počtu lidí v soukromém sektoru a označuje to za nebezpečí, zejména pro děti a nejzranitelnější skupiny. Papež proto vyzval k regulaci, jako je nezávislý dohled nebo robustní právní rámec. Vývojáře AI a politické představitelé vyzval, aby se řídili etickými a duchovními zásadami a pracovali nikoli pro vlastní zisk nebo moc, ale pro blaho lidstva.

„Hlavními hybnými silami rozvoje jsou soukromé, často nadnárodní subjekty, které disponují zdroji a schopností zasahovat do dění v míře převyšující možnosti mnoha vlád. Technologická moc tak nabývá bezprecedentního, převážně 'soukromého' charakteru, což ještě více ztěžuje její rozpoznání, regulaci a nasměrování ve prospěch společného dobra. Je-li taková moc soustředěna v rukou několika málo lidí, má tendenci se uzavírat a vyhýbat se veřejné kontrole, čímž se zvyšuje riziko pokřivených forem rozvoje, které vedou k novým formám závislosti, vyloučení, manipulace a nerovnosti,“ citovala z textu agentura Reuters.

Papež vyzval rovněž k vytvoření společného mezinárodního rámce k omezení technologického zbrojního závodu i k vývoji udržitelnějších technologických řešení. V této souvislosti zmínil dopady na životní prostředí, kdy datová centra generující modely AI spotřebovávají obrovské množství energie a vody, což má významný vliv na produkci oxidu uhličitého.

Umělá inteligence podle Lva klade stejné existenciální otázky, jaké kladla průmyslová revoluce. AI ale také vyvolává otázku, zda bude katalyzátorem a obohatí lidstvo, nebo se stane technologickým jedem, který otupí lidskou inteligenci a zároveň zničí miliony dobře placených pracovních míst.

Související

„Ohrožuje katolíky a schvaluje Íránu atomovky.“ Trump neustává v útocích na papeže

AP podotýká, že předchozí papežové se omluvili za zapojení křesťanů do transatlantického obchodu s otroky. Žádný z nich však nikdy veřejně nepřiznal roli, kterou papežové sehráli při udělování pravomoci evropským panovníkům podrobit si a zotročit nevěřící. Minulost Vatikánu papež Lev XIV. v této souvislosti označil za ránu v křesťanské paměti.

Papež text představil na tiskové konferenci ve Vatikánu, které se účastnil také spoluzakladatel společnosti Anthropic. Vatikán se ji rozhodl zapojit do svého již deset let trvajícího úsilí o navázání dialogu se Silicon Valley ohledně lidských nákladů AI. Ke konci svého pontifikátu začal o umělé inteligenci a jejích rizicích pro lidstvo více hovořit i papež František, který loni zemřel.

Trumpova vláda nařídila v únoru všem americkým úřadům, aby přestaly používat technologie společnosti Anthropic poté, co tato firma odmítla umožnit americké armádě jejich neomezené využívání. Anthropic, která se prezentuje jako firma zabývající se AI kladoucí bezpečnost a snižování rizik na první místo ve svém výzkumu, na vládu podala žalobu. Rozhodnutí přizvat Anthropic někteří kritizovali.

Magnifica Humanitas má podle agentur 83 stran a obsahuje bezmála 43.000 slov. Lev XIV. text podepsal 15. května ke 135. výročí encykliky Rerum Novarum (O nových záležitostech). V tomto textu papež Lev XIII. (1810-1903) reagoval na rozvoj kapitalismu, vykořisťování dělníků či nástup socialismu a marxismu s jejich programovým návrhem ukončit soukromé vlastnictví výrobních prostředků. Encyklika patří k základům sociálního učení katolické církve.

Mohlo by vás také zajímat: Donald Trump zveřejnil AI snímek, na němž je stylizován do podoby Ježíše.