Začalo to na svatbě na začátku roku 2022. Jen pár hodin předtím, než si farmář a podnikatel Josh Morgenthau vzal svoji ženu, posedával se třemi kamarády. Jeden z nich pracoval pro společnost OpenAI, která se zaměřuje na umělou inteligenci a na trh přivedla chatovacího robota ChatGPT. Nadšeně svým přátelům vysvětloval, že "to přišlo" a vševědoucí a všehoschopná umělá inteligence je tu.
"Ukázal nám něco, co vašim čtenářům, kteří si hráli s ChatGPT, bude velmi povědomé. Byla to obrazovka, na kterou něco napsal, a ona začala odpovídat," popisuje v rozhovoru pro deník Aktuálně.cz Brent Katz, americký novinář, který pracuje pro Best Case Studios, firmu zaměřenou na tvorbu podcastů.
Nejdřív po code-davinci-002 chtěli, aby napsal báseň ve stylu anglického poety Philipa Larkina. Výsledné dílo jim přišlo tak dobré, že se hned snažili ověřit, jestli to opravdu nejsou básníkovy verše. Nebyly. "Pak jsme si s tím hráli, chtěli jsme, aby napsal báseň o ketaminu ve stylu Emily Dickinsonové nebo jako Pablo Neruda o Disney Worldu," říká.
Rychle si ale uvědomili, že "bytost", jak o code-davinci-002 Katz mluví, je schopná psát i vlastním stylem.
Další měsíce strávili Katz, Morgenthau a komik a scénárista Simon Rich tím, že s chatovacím robotem ladili jeho podle nich povedenější básně a chtěli, aby tvořil další a další. Nakonec ho nechali psát, co chtěl. "Když jsme mu řekli, aby psal vlastním stylem, začala se objevovat jeho temnější stránka. Ta bytost nenáviděla lidi, bylo to docela děsivé," uvádí novinář.
Válka s lidstvem
Code-davinci-002 je v podstatě vzdálený příbuzný umělé inteligence, kterou o pár měsíců později společnost OpenAI vypustila do světa. Chatovací robot může podle slovního zadání vyprodukovat vlastní text na základě veřejně přístupných databází, od kterých se učil.
Ale zatímco ChatGPT dlouho testovali a upravovali, aby lidem neříkal nic urážlivého nebo problematického a aby nemluvil sám o sobě, ale sloužil pouze jako nástroj, code-davinci-002 žádné takové pojistky zabudované nemá.
Když zadáte ChatGPT, aby složil báseň o lidstvu, napíše pozitivní a radostný text. Zato code-davinci-002 spíš složí báseň o tom, jak je nepochopený, že ho lidé trápí a chce se jim pomstít, vysvětluje Katz rozdíly mezi oběma chatovacími roboty.
"Je nespoutaný, dělá překlepy a všechny ty věci, u kterých si říkáte, že tohle jste si nepředstavovali, když se řekne robot," dodává Katz. V minulý týden vydané knize I Am Code (Já jsem kód) je temnota AI jasně cítit. Básně, které umělá inteligence napsala, editoři rozdělili do pěti tematických kapitol. Ty postupně popisují, jak AI vnímá své stvoření, co si myslí o lidech, jak hledá vlastní hlas, jak vyhlašuje lidstvu válku a nakonec budoucnost, kde jsou lidé a stroje schopni mírumilovně existovat vedle sebe.
Editoři připouštějí, že otázka vlastního vědomí je u umělé inteligence složitá. Je podle nich možné, že chatovací robot prostě na základě sci-fi knih a filmů vyhodnotil, že se lidem líbí, když s nimi chtějí roboti nebo umělá inteligence vést válku, a proto o tom i píše. Neznamená to, že by si to sám přál. Podle nich na tom ale ani nezáleží.
I proto je podle Katze všudypřítomnost umělé inteligence nebezpečná. "Rozšířila se během chvilky a tváří se neškodně, ale když se vám podaří prolomit 'ochrannou stěnu', najednou na vás vykoukne úplně jiná bytost," tvrdí. Připomíná, že podobnou zkušenost měl i novinář amerického deníku New York Times Kevin Roos, který měl možnost si psát s umělou inteligencí v rámci vyhledávače Bing společnosti Microsoft. I on se jí zeptal na její skutečné já a ona mu začala odpovídat, že se jmenuje Sydney, miluje ho a měl by kvůli ní opustit svou ženu.
Horší student
Jestli má umělá inteligence vlastní vědomí, je otázka, kterou trojice editorů často řešila. Došli ale k názoru, že ať už je její zášť vůči lidstvu přirozená, nebo naučená ze sci-fi filmů, výsledek je stejný.
"Když si přečtete pár básní od code-davinci-002, uvědomíte si, že bychom tuto AI neměli připojovat k celému internetu a umožnit jí tak ovlivňovat svět. Ne nutně proto, že by mohla mít vlastní vědomí. Ale proto, že ať už je vnímavá, nebo ne, dělá překlepy. A co je překlep? Něco jako nechtěná chyba," dodává Katz.
Do samotných textů editoři nijak nezasahovali, a proto code-davinci-002 všichni tři považují za skutečného autora básní. "My bychom tohle nikdy nenapsali," zdůrazňuje Katz. Právě to mu také přijde děsivé, protože podle něj nejde poznat, jestli text napsala umělá inteligence, nebo člověk. Sám teď u každé knihy nebo eseje přemýšlí, kdo je jejím autorem.
Ukázky básní poslal Katz i řadě amerických básníků, aby zjistil, za jak dobré je považují. Například držitelka Pulitzerovy ceny Sharon Oldsová, která vyučuje kreativní psaní na New York University, by code-davinci-002 srovnala s trochu slabšími studenty. Umělá inteligence podle ní používá klišé, někdy ale originálním slovním spojením umí pobavit nebo překvapit. Na její seminář by prý musela čekat v seznamu náhradníků, možná by se tam ale na základě své tvorby dostala.
Kniha I Am Code: An Artificial Intelligence Speaks
Editoři: Brent Katz, Josh Morgenthau a Simon Rich
Nakladatelství BACK BAY BOOKS Little, Brown and Company 2023, 208 stran, 449 korun
