"Utěšuju se výmluvou, že pokud bych to neudělal já, udělal by to někdo jiný," uvedl pětasedmdesátiletý Hinton pro americký deník New York Times poté, co opustil na konci dubna společnost Google. Ve firmě se na vývoji umělé inteligence (AI) podílel posledních deset let.
Kariéru v oboru ale začal mnohem dříve, už v 70. letech minulého století, kdy se jako jeden z mála expertů věnoval vývoji neuronových sítí - systému, který funguje podobně jako lidský mozek, protože se dokáže učit novým informacím a dále je zpracovávat. Hinton se stal jedním z průkopníků odvětví, popisuje New York Times.
Nyní ale začal litovat, že tomuto vědnímu oboru zasvětil celý svůj profesní život. Technologie, kterou v roce 2012 vytvořil spolu se svými studenty na Torontské univerzitě Ilyou Sutskeverem a Alexem Krishevskym, se stala základem oblíbených jazykových modelů, jako jsou chatboty či ChatGPT.
Ty podle něj představují riziko například proto, že dokážou být tak přesvědčivé, že běžný uživatel internetu už nebude schopný rozpoznat, co je skutečnost. "Autoritativním lídrům to dovolí manipulovat s jejich voliči," domnívá se muž, který za svůj výzkum dostal v roce 2018 prestižní Turingovu cenu.
Inteligentně zabalené dezinformace
Filip Dvořák, český výzkumník a expert na umělou inteligenci se zkušenostmi ze Silicon Valley a také z Googlu a Microsoftu, souhlasí, že možnost vytvářet dezinformace je v současnosti největší hrozbou umělé inteligence. "Zatímco nyní jsme schopni poznat lživé a manipulativní texty na internetu, například kvůli stylistickým chybám a celkově nízké kvalitě, jazykové modely je umožní zahalit tak, že budou správně napsané a navíc čtivé," vysvětluje v rozhovoru pro Aktuálně.cz.
Přesto hrozbu nepovažuje za tak závažnou jako Hinton, který působil na Torontské univerzitě dva roky předtím, než na ní Dvořák vedl výzkum a přednášel. "Je to nějaká dramatická změna oproti tomu, jak v současnosti funguje internet?" ptá se a dodává, že ani v současnosti neexistuje žádná centrální autorita, která by říkala, které informace nejsou podpořeny vědeckými studiemi. Chatboty jako ChatGPT často vychází právě z těchto neověřených zdrojů.
"Všechno, co umělá inteligence přináší z hlediska fake news, tu už bylo. Teď to bude jenom lépe zpracované a napsané. Současný vývoj ukazuje na to, že bychom měli používat kritické myšlení a nebrat za správné to, co si přečteme na internetu," domnívá se Dvořák, který v Česku spoluzaložil start-up Filuta AI zaměřující se na inteligentní automatizaci za pomoci kompozitní umělé inteligence.
"Pokud bude nyní nějaký jazykový model schopný přesvědčit někoho ze Západu, aby si koupil letenku a odletěl do Somálska, aby tam vyzvedl kufřík a přivezl ho zpátky, tak by ten člověk byl pravděpodobně manipulovatelný i před existencí chatbotu," myslí si.
Inteligence přerůstající lidské možnosti
Z dlouhodobějšího hlediska se Geoffrey Hinton bojí, kam až může technologie zajít a co se stane, když se stane inteligentnější než člověk. "Nedávno jsem došel k přesvědčení, že inteligence, kterou vytváříme, je velmi odlišná od té, kterou máme my. Jsme biologický systém, a tohle je systém digitální. Velkým rozdílem je, že s digitálním systémem máme několik kopií, které se mohou učit zvlášť, ale zároveň si okamžitě mohou nasdílet nové informace," uvedl Hinton pro britskou stanici BBC.
"V rychlosti a kapacitě bude mít umělá inteligence nad člověkem vždycky navrch," souhlasí s Hintonem Dvořák. Dodává však, že pokud jde například o rozvržení práce, jsou počítače chytřejší než člověk už od 50. let minulého století. A přesto to problémy pro lidstvo zatím nepřineslo.
"Například plánování rozvrhů na univerzitách je tak složité, že i počítače, které jsou o sedm nebo osm řádů rychlejší v rozhodování než člověk, stále nejsou optimální. Například postaví rozvrh tak, že by se vyučující musel teleportovat mezi budovami na opačných stranách města. Kolik chyb a jak dlouho by to trvalo člověku, který zvládne udělat jen šest rozhodnutí za minutu?" ptá se Filip Dvořák.
Co pozitivního může umělá inteligence přinést?
Český odborník navíc nevnímá Hintonovo varování jako něco, co by chtěl Kmotr umělé inteligence řešit pozastavením vývoje. Míní, že je to spíš upozornění, že přijdou rychlé změny, na které by se měla společnost připravit. "Je pravdou, že změny přijdou a bude potřeba transformace. Pořád jde ale jen o jeden technologický posun, se kterým jsme schopni se jako společnost poprat," domnívá se. Jako důkaz odkazuje k minulosti a změnám, které přinesl parní stroj nebo průmyslová revoluce.
Místo varování a představování si, že umělá inteligence je něco jako Skynet z Terminátora, by se podle Dvořáka měli lidé zajímat, co umělá inteligence umí, a sami si vyzkoušet, jaké nabízí možnosti. "Cestou není zpomalovat vývoj, ale vzdělávat veřejnost," myslí si.
"Umělá inteligence bude mít obrovský přínos pro společnost. Dokážu si představit, že přijde dramatické zkracování pracovní doby, spousta nových technologií, které budou řešit zábavu ve volném čase, cestování na nízké orbitě nebo výzkumy pro meziplanetární lety," odhaduje, co by se mohlo v následujících pěti až deseti letech proměnit. "Pokud se budeme chovat rozumně jako civilizace, tak nás čeká dramaticky lepší období, než bylo doposud."
