Rozhovor - V povídce, kterou napsal Arthur C. Clarke, přebírá počítačová síť nadvládu nad světem poté, co o sobě dala vědět zazvoněním všech telefonů. Vývoj umělé inteligence by se nám musel hodně vymknout z rukou, aby to takhle dopadlo, soudí přední český informatik Milan Mareš.

Ve druhé části rozhovoru pro Aktuálně.cz profesor Mareš říká, že více než vědce a techniky je nutné hlídat politiky - zejména v totalitních režimech jim mohou nové technologie dát nástroj na ovládnutí společnosti.

Rozhovor jsme pro přehlednost rozdělili do tří částí (první a třetí naleznete ZDE a ZDE).

Slušní lidé to nedělají

A.cz: Už dnes existují ovládací periferie pro hrací počítač, které jsou napojeny na snímače na hlavě. Snímají elektrické mozkové impulsy a podle toho třeba řídí pohyb autíčka na obrazovce - rovně nebo do strany. Nepůjde to i obráceně, tedy že by venku generované impulsy byly vyslány do hlavy a ovlivňovaly mozek?

Netroufnu si na kategorický výrok. Pokud to bude k něčemu užitečné, tak se to nakonec vyvine. Třeba člověku, který se pohybuje pomocí protéz, by se mohlo hodit, kdyby mu při spojení s umělými končetinami pomáhal počítač. Už dnes je možné řídit protézu nervovými podněty (tedy "myšlením").

Problém je, že se takové pohyby nezautomatizují - musíte na ně pokaždé myslet znova a do všech podrobností. Tady třeba by se ten mikročip někde v nervu hodil. Ale chápu i tu možnost zneužití: představte si, že by totalitní režim mohl sledovat, co si myslíte, nebo vám dokonce do mozku vkládal myšlenky, které si máte myslet! Ono by stačilo, kdyby vám vkládal, které pohyby máte udělat.

Technika bude jistě schopná mnohého, a asi jednou zvládne i tohle. Pak bude záležet na tom, jestli se lidé naučí slušnému chování v takovém prostředí.

Foto: Aktuálně.cz

Čtěte blog Milana Mareše na Aktuálně.cz

Nerozvíjené analytické myšlení

A.cz: Jak to myslíte?

Vysvětlím to takhle: Pustili mě kdysi na jednu vědeckou konferenci do tehdejšího Západního Německa. Při snídani v hotelu, kde bydleli účastníci konference, jsem si najednou všiml, že tam na stole ležely nějaké bulvární noviny. Lidé u stolu je odstrkovali hřbetem ruky, aby je ani nevzali do ruky. Protože člověk, který takové noviny čte, se zařadí do určité kategorie, a slušní lidé do ní nechtějí.

Podobně se musíme i v počítačovém světě naučit, co se dělá a co ne. Zneužití počítačů pro ovládnutí lidí, to se nedělá.

Technika v demokracii je bezpečnější

A.cz: Takže záleží na vědcích?

Určitě. Ale hlavně na společenských podmínkách. Více než vědu a techniku si lidé musí hlídat politiku. Politikové se vždycky budou snažit zmanipulovat lidi, i s využitím techniky. Ale v demokracii je přirozená autoregulace snazší. Totalitní režim bude mít větší snahu techniku zneužít.

Ale víte, je to obousečné. Člověk, který umí, může techniku využít proti totalitě. Vezměte si internet, který umožňuje rychlé šíření informací. Není náhoda, že v Číně internet omezují. Prostě, počítače se dají zneužít, ale šikovným lidem se zase hodí k tomu, aby jejich prostřednictvím narušovali totalitu.

A.cz: Nová technika se využívá ve volebních kampaních, třeba Barack Obama vedl svou kampaň velice šikovně i na internetu. Myslíte, že umožní i přímou účast voličů na politickém rozhodování? Například referendum přes internet by bylo rychlé a finančně dostupné.

Technicky to možné určitě je. Nejsem si jist, jestli by to bylo racionální. Osobně nejsem přílišným přítelem referend, protože lidé tam rozhodují o něčem, za co nebudou zodpovídat. Když vyhlásíte referendum, jestli mají být daně nebo poplatek u lékaře, je předem jasné, jak to dopadne. Přitom není uskutečnitelné, aby se neplatily daně a zdravotnictví bylo současně zadarmo. Proto by vždycky měl rozhodovat ten, kdo za své rozhodnutí nese přímou a jasnou odpovědnost.

Převálcuje umělá inteligence lidstvo?

A.cz: Autoři sci-fi předpokládali, že jednoho dne umělá inteligence vytlačí naši, lidskou inteligenci, a převezme vládu na Zemi. Může k tomu podle vás dojít?

O to se kybernetici hádají vlastně už od čtyřicátých nebo padesátých let minulého století. Tohle se opravdu těžko předvídá a já osobně doufám, že k tomu nedojde.

Když se mě na to ptají studenti, zmíním povídku Arthura C. Clarka ...a ozve se Frankenstein. Začíná tak, že se v jednu chvíli rozdrnčí všechny telefony světa, ale na lince nikdo není. Vypadá to jako omyl, ale ve skutečnosti se tak ohlásila nová, umělá inteligence, která se právě zrodila propojením telekomunikačních družic s pozemnímu databázemi, začne ovládat energetiku a všechno další.

A.cz: Povídka končí tak, že lidé ztrácejí nad novým systémem kontrolu a že pro homo sapiens už telefonní zvonek odezněl.

Já tu povídku studentům vyprávím a pak vysvětluji, proč by to nebylo možné. Tedy že si lidé nekladou za cíl udělat počítač, který by se sám bouřil.

Je velký rozdíl mezi biologickým vývojem, jímž vznikla naše civilizace, a zdokonalováním techniky. Technika je stále pod kontrolou lidí a vyvíjí se tak, jak ji lidé naprogramují. I ty kybernetické systémy, které se samy učí, to dělají jen tak, jak byly naprogramovány člověkem.

Rizikem může být jen to, kdyby se tento vývoj lidem vymkl z rukou. Denně se v republice vymkne řidičům několik set aut a havarují. Studentům vysvětlím, že vytvoření na člověku nezávislé umělé inteligence, která by nás vytlačila, je alespoň pro dnešní dobu nepravděpodobné. A pak končím a říkám jim - víte co, až přijdete domů, chvíli poslouchejte, jestli nezvoní všechny telefony.