Poslouchejte, jestli lidem nezní poslední zvonek

Libor Stejskal Josef Tuček, Libor Stejskal
28. 2. 2009 13:55
Rozhovor s informatikem Milanem Marešem o životě lidí s počítači (2. část)
Profesor Milan Mareš
Profesor Milan Mareš | Foto: Ondřej Besperát

Rozhovor - V povídce, kterou napsal Arthur C. Clarke, přebírá počítačová síť nadvládu nad světem poté, co o sobě dala vědět zazvoněním všech telefonů. Vývoj umělé inteligence by se nám musel hodně vymknout z rukou, aby to takhle dopadlo, soudí přední český informatik Milan Mareš.

Ve druhé části rozhovoru pro Aktuálně.cz profesor Mareš říká, že více než vědce a techniky je nutné hlídat politiky - zejména v totalitních režimech jim mohou nové technologie dát nástroj na ovládnutí společnosti.

Rozhovor jsme pro přehlednost rozdělili do tří částí (první a třetí naleznete ZDE a ZDE).

Slušní lidé to nedělají

A.cz: Už dnes existují ovládací periferie pro hrací počítač, které jsou napojeny na snímače na hlavě. Snímají elektrické mozkové impulsy a podle toho třeba řídí pohyb autíčka na obrazovce - rovně nebo do strany. Nepůjde to i obráceně, tedy že by venku generované impulsy byly vyslány do hlavy a ovlivňovaly mozek?

Kdo je Milan Mareš

Prof. RNDr. DrSc., přední český matematik a informatik. Od promoce na Matematicko-fyzikální fakultě Univerzity Karlovy v roce 1965 pracuje v Ústavu teorie informace a automatizace Akademie věd v Praze. V letech 1998-2006 zde byl ředitelem.

Netroufnu si na kategorický výrok. Pokud to bude k něčemu užitečné, tak se to nakonec vyvine. Třeba člověku, který se pohybuje pomocí protéz, by se mohlo hodit, kdyby mu při spojení s umělými končetinami pomáhal počítač. Už dnes je možné řídit protézu nervovými podněty (tedy "myšlením").

Problém je, že se takové pohyby nezautomatizují - musíte na ně pokaždé myslet znova a do všech podrobností. Tady třeba by se ten mikročip někde v nervu hodil. Ale chápu i tu možnost zneužití: představte si, že by totalitní režim mohl sledovat, co si myslíte, nebo vám dokonce do mozku vkládal myšlenky, které si máte myslet! Ono by stačilo, kdyby vám vkládal, které pohyby máte udělat.

Technika bude jistě schopná mnohého, a asi jednou zvládne i tohle. Pak bude záležet na tom, jestli se lidé naučí slušnému chování v takovém prostředí.

Foto: Aktuálně.cz
Čtěte blog Milana Mareše na Aktuálně.cz

Nerozvíjené analytické myšlení

A.cz: Jak to myslíte?

Vysvětlím to takhle: Pustili mě kdysi na jednu vědeckou konferenci do tehdejšího Západního Německa. Při snídani v hotelu, kde bydleli účastníci konference, jsem si najednou všiml, že tam na stole ležely nějaké bulvární noviny. Lidé u stolu je odstrkovali hřbetem ruky, aby je ani nevzali do ruky. Protože člověk, který takové noviny čte, se zařadí do určité kategorie, a slušní lidé do ní nechtějí.

Podobně se musíme i v počítačovém světě naučit, co se dělá a co ne. Zneužití počítačů pro ovládnutí lidí, to se nedělá.

Technika v demokracii je bezpečnější

A.cz: Takže záleží na vědcích?

Určitě. Ale hlavně na společenských podmínkách. Více než vědu a techniku si lidé musí hlídat politiku. Politikové se vždycky budou snažit zmanipulovat lidi, i s využitím techniky. Ale v demokracii je přirozená autoregulace snazší. Totalitní režim bude mít větší snahu techniku zneužít.

Ale víte, je to obousečné. Člověk, který umí, může techniku využít proti totalitě. Vezměte si internet, který umožňuje rychlé šíření informací. Není náhoda, že v Číně internet omezují. Prostě, počítače se dají zneužít, ale šikovným lidem se zase hodí k tomu, aby jejich prostřednictvím narušovali totalitu.

A.cz: Nová technika se využívá ve volebních kampaních, třeba Barack Obama vedl svou kampaň velice šikovně i na internetu. Myslíte, že umožní i přímou účast voličů na politickém rozhodování? Například referendum přes internet by bylo rychlé a finančně dostupné.

Technicky to možné určitě je. Nejsem si jist, jestli by to bylo racionální. Osobně nejsem přílišným přítelem referend, protože lidé tam rozhodují o něčem, za co nebudou zodpovídat. Když vyhlásíte referendum, jestli mají být daně nebo poplatek u lékaře, je předem jasné, jak to dopadne. Přitom není uskutečnitelné, aby se neplatily daně a zdravotnictví bylo současně zadarmo. Proto by vždycky měl rozhodovat ten, kdo za své rozhodnutí nese přímou a jasnou odpovědnost.

Převálcuje umělá inteligence lidstvo?

A.cz: Autoři sci-fi předpokládali, že jednoho dne umělá inteligence vytlačí naši, lidskou inteligenci, a převezme vládu na Zemi. Může k tomu podle vás dojít?

O to se kybernetici hádají vlastně už od čtyřicátých nebo padesátých let minulého století. Tohle se opravdu těžko předvídá a já osobně doufám, že k tomu nedojde.

Když se mě na to ptají studenti, zmíním povídku Arthura C. Clarka ...a ozve se Frankenstein. Začíná tak, že se v jednu chvíli rozdrnčí všechny telefony světa, ale na lince nikdo není. Vypadá to jako omyl, ale ve skutečnosti se tak ohlásila nová, umělá inteligence, která se právě zrodila propojením telekomunikačních družic s pozemnímu databázemi, začne ovládat energetiku a všechno další.

A.cz: Povídka končí tak, že lidé ztrácejí nad novým systémem kontrolu a že pro homo sapiens už telefonní zvonek odezněl.

Já tu povídku studentům vyprávím a pak vysvětluji, proč by to nebylo možné. Tedy že si lidé nekladou za cíl udělat počítač, který by se sám bouřil.

Je velký rozdíl mezi biologickým vývojem, jímž vznikla naše civilizace, a zdokonalováním techniky. Technika je stále pod kontrolou lidí a vyvíjí se tak, jak ji lidé naprogramují. I ty kybernetické systémy, které se samy učí, to dělají jen tak, jak byly naprogramovány člověkem.

Rizikem může být jen to, kdyby se tento vývoj lidem vymkl z rukou. Denně se v republice vymkne řidičům několik set aut a havarují. Studentům vysvětlím, že vytvoření na člověku nezávislé umělé inteligence, která by nás vytlačila, je alespoň pro dnešní dobu nepravděpodobné. A pak končím a říkám jim - víte co, až přijdete domů, chvíli poslouchejte, jestli nezvoní všechny telefony.

 

Pokud jste v článku zaznamenali chybu nebo překlep, dejte nám, prosím, vědět prostřednictvím kontaktního formuláře. Děkujeme!

Právě se děje

před 4 hodinami

Vláda je připravena zastropovat energie pro velké firmy do konce roku, řekl Fiala

Vláda je připravena do konce letošního roku zavést cenové stropy na energie pro velké firmy. Mělo by to být na podobné úrovni jako pro domácnosti a malé firmy. Premiér Petr Fiala (ODS) to řekl CNN Prima News. Ministr průmyslu a obchodu Jozef Síkela (za STAN) v neděli v České televizi řekl, že v polovině minulého týdne evidovalo jeho ministerstvo přes 1000 žádostí velkých firem o podporu kvůli vysokým cenám energií.

"Museli jsme si pro to připravit evropské rozhodnutí, abychom to mohli udělat. To se nám podařilo. Dnes je tedy možné provést i zastropování pro velké firmy, což dříve možné nebylo," uvedl premiér.

Možnost zavést horní hranice cen elektřiny a plynu i pro velké firmy se dostala ve Sněmovně do již přijaté novely energetického zákona, která zejména zavedla výrobcům elektřiny povinnost platit odvody z nadměrných příjmů z jejího prodeje. Podobu zastropování cen by měl kabinet stanovil svým nařízením. Také Síkela v neděli na ČT hovořil o tom, že by nařízení mohla vláda vydat do konce roku.

Zdroj: ČTK
Další zprávy