Během rozsáhlých protestů proti důchodové reformě ve Francii se letos v březnu na internetu objevila fotografie, na které staršího muže do krve bije policie. Doprovázelo ji mnoho komentářů proti prezidentovi Emmanuelu Macronovi. Snímek však nebyl skutečný, ale zmanipulovaný pomocí umělé inteligence.
Uměle vytvořené obrázky nově dokáže rozeznat nástroj nazvaný SynthID, který před pár měsíci představila společnost Google. Nástroj vloží digitální "vodoznak" přímo do uměle vytvořeného obrázku. Lidské oko ho nevidí, ale dokáže ho zachytit počítač, který je naučený jej číst. Konečným cílem je vytvořit systém, kde lze většinu obrázků vytvořených umělou inteligencí snadno rozeznat pomocí vložených vodoznaků.
Rozpoznávání falešných fotografií, ale i manipulativních textů na internetu bude v budoucnu ještě důležitější. K odhalování zavádějících informací se experti dlouhodobě snaží rozvíjet nové nástroje, které ukazují, že umělá inteligence může v této oblasti také pomáhat.
Může třeba běžným čtenářům pomoci rozpoznat, jestli novinářské články splňují potřebné standardy. Například webová aplikace Verifee, kterou vyvinuli tři čeští studenti, dokáže automaticky rozpoznat, zdali je článek důvěryhodný. Zaměřuje se při tom na zavádějící titulky, pravdivost nebo také útočnost textu.
Některé funkce založené na umělé inteligenci nabízí i společnost Google. Při vyhledávání obrázků je například nově k dispozici možnost dozvědět se v anglickém jazyce více o okolnostech jejich vzniku. U každého obrázku si lze rozkliknout doplňující informace a zjistit například, jestli jej nevygenerovala umělá inteligence nebo zda není obrázek přes deset let starý.
Věrohodnost vyhledávané informace či zprávy lze také rozlišit pomocí funkce Informace o výsledku, která je už dostupná i uživatelům v Česku. Vedle výsledků vyhledávání se ukážou tři tečky. Po kliknutí na ně Google informuje o tom, odkud se chystá čerpat informace. Ve vyskakovacím okně nabídne podrobnosti o společnosti, organizaci nebo jednotlivci, který web vlastní.
Hlubší způsob, jak se dozvědět více o obrázku nebo tématu, poskytuje Fact Check Explorer. Tento "průzkumník" umožňuje uživatelům najít informace, které byly prověřeny nezávislými organizacemi z celého světa.
Zasévání pochybností a ovlivňování debat
Umělá inteligence nicméně přináší také značná rizika. Nástroje založené na umělé inteligenci, které dokážou generovat text, zvuk, fotografie i videa, se rychle staly sofistikovanějšími i přístupnějšími, což podle analýzy organizace Freedom House podnítilo rozvoj dezinformačních taktik.
Výzkum sledující situaci v 70 zemích světa upozorňuje, že letos byla nová technologie využita v nejméně 16 zemích k zasévání pochybností, pošpinění odpůrců nebo ovlivňování veřejné debaty.
"Přestože jsou takzvané deepfakes často rychle odhaleny, stále přispívají k úpadku informačního prostoru," konstatuje analýza. Mohou totiž podkopat důvěru veřejnosti v demokratické procesy nebo i tlačit aktivisty či novináře k autocenzuře.
Organizace také popisuje, že technicky vyspělé autoritářské státy pomocí umělé inteligence posilují svůj systém cenzury. "Pokroky v umělé inteligenci zesilují v online prostředí krizi lidských práv. Automatizované systémy umožnily vládám provádět přesnější a jemnější formy online cenzury," uvádí výzkum.
O hrozbách i příležitostech, které nabízí umělá inteligence v boji s dezinformacemi, debatovali experti na největším evropském summitu Fighting Misinformation Online v Bruselu, kterého se zúčastnilo i Aktuálně.cz.
