Na internetu se s vámi hádá stroj, jenž simuluje člověka a šíří hoaxy, varuje vědkyně

Kateřina Gruntová Kateřina Gruntová
1. 2. 2022 17:55
"Na Oxford mě přivedly úvahy nad tím, kde vlastně končí byznys a začíná odpovědnost vůči společnosti," říká mladá vědkyně a zakladatelka Internetového institutu, která opustila kariéru v Googlu a po studiích na Západě se vrátila do Česka. Chce šířit povědomí o vlivu digitálních technologií na společnost a pomáhat nastavovat jejich mantinely - aby lidem neškodily, ale sloužily.
Tereza Bartoníčková.
Tereza Bartoníčková. | Foto: Jakub Plíhal

Tereza Bartoníčková, sedmadvacetiletá vědkyně a poručice kybernetických sil armádních Aktivních záloh, se rozhodla vzdát nastartované kariéry v celosvětové společnosti, aby přešla "na druhou stranu" a pomohla nastavit mantinely pro digitální technologie. V Česku podle ní zásadně chybí propojení mezi akademickou a státní sférou a byznysem. Z toho důvodu už v roce 2018 založila think tank Internetový institut. "Česko má mnoho kusých snah, ale je problém nastavit, na jakou branku náš tým míří," shrnuje svou zkušenost. 

Viděla jste netflixový dokument The Social Dilemma? Mnoha lidem asi otevřel oči ohledně toho, jak technologičtí giganti jako Facebook pomocí algoritmů a umělé inteligence (zkráceně AI) přímo ovlivňují naše životy.

Viděla, ale nelíbil se mi. Dokumenty na tohle téma dělají přehnané závěry. To, jak to téma zpracovali, mi přišlo agresivní a zbytečně zastrašující, což si myslím, že je opak toho, čeho chceme dosáhnout, a sice aby se lidé technologií nebáli, jenom si uvědomovali, co dělají.

Myslím ale, že v tom dokumentu bylo hezky ukázané, že umělá inteligence nejsou roboti, kteří nás jednou nahradí, ale že je to něco, co ovlivňuje naše životy už tady a teď.

To je pravda, AI je všudypřítomná. Většina programů běžících na internetu je podporovaná umělou inteligencí. Problém je v tom, že AI nezůstává jen na platformách a ve vyhledávačích. Přesouvá se do našeho auta, lednice, obýváku - říká se tomu Internet of Things. Z toho plyne, že regulovat je potřeba adresující principy AI, ne technologie. Regulace, která je zaměřená jenom na platformy, už nebude regulovat váš kávovar.

Tereza Bartoníčková.
Tereza Bartoníčková. | Foto: Jakub Plíhal

Vy jste studovala na Oxfordské univerzitě obor Social Science of the Internet. Předtím jste ale absolvovala bakalářské studium marketingu a pracovala v Googlu. Začínala jste tedy na té "druhé straně".  

Na marketingu jsem poznala, na jakých principech funguje kapitalistická ekonomika, tedy celá naše společnost. Internet založený na těchto kapitalistických principech neodpovídá lidským hodnotám. Proto je těžké získat finance na výzkum a regulace. V Googlu jsem přemýšlela o tom, co vlastně dělám, co dělá celý Google. Zajímalo mě, jak moc technologie zasahují do toho, jak si navykáme myslet.

Na Oxford mě pak přivedly úvahy nad tím, kde vlastně končí byznys a začíná odpovědnost vůči společnosti. Myslela jsem si, že o tom vím hodně, když pracuju v tom prostředí, ale já jsem v podstatě klíčovou dírkou koukala na obrovský bál, a jakmile jsem se ocitla na tom bále, tak to byl velký šok. Hloubka, do jaké se tyto věci řeší - dopad technologií na lidstvo, potřeba regulace -, je obrovská.

Co bylo na studiu nejobtížnější?

Rozhodně financování. Česko má na těchto školách málo studentů, protože chybí jejich podpora. Třeba Slovensko a další země mají zavedená stipendia s tím, že se student upíše státu, že nějakou dobu po absolvování bude pracovat pro vládu. To je super; vrací státu, co se naučil venku, a stát si přiláká talent zpátky. Sem se lidi nevrací. Každý, kdo ví, že jsem se vrátila, si klepe na čelo.

Dnes se tedy zabýváte eticko-právními dopady umělé inteligence a možnostmi regulace digitálních technologií. Co to ale vlastně znamená? Jak to třeba vysvětlujete svým prarodičům?

Úplně jednoduše: řeším, aby skutečnost, že se stále více pohybujeme v digitálním světě, na nás neměla negativní dopady a aby to bylo podchycené v právu. I proto si teď dělám doktorát na právnické fakultě. 

Je prvním krokem přijetí vládní Národní strategie umělé inteligence z roku 2019?

To je v podstatě převzetí strategie pro umělou inteligenci od Evropské unie. Ta na to má prostředky a sdružuje kvalitní vědce v tomto oboru. Česká republika se ho snaží naplňovat (dokument strategie - pozn. red.), jak moc efektivně, to je debata o rozdělování peněz na vědu a výzkum.

Takže problém jsou finance?

Problém je rozdělení financí a stanovení cílů. Stanovení cílů je obecně v Česku velký kámen úrazu. Česko má mnoho kusých snah, ale je problém nastavit, na jakou branku náš tým míří.

Je pravda, že regulace zbytečně brzdí rozvoj technologií, a tedy snižují naši konkurenceschopnost?

Ano, špatné regulace nás nesmyslně brzdí. Třeba tuzemské názory, proč by vůbec měly být, jsou úplně mimo, nejsou založené na reálných datech, reálných situacích, nedomýšlejí dopady, protože jejich tvůrci nejsou schopní si to přeložit do jazyka technologie. To bylo krásně vidět během výslechu Marka Zuckerberga (zakladatel Facebooku - pozn. red.) v Kongresu. Někteří se sice ptali na dobré otázky, ale on to byl schopný úplně neutrálně vykličkovat, protože mluvil slovy, která v technologiích znamenají něco jiného.

V rámci technologie totiž nejde zakázat jednu komponentu, jeden řádek kódu. Existuje pojem "future proof regulation", regulace odolné do budoucnosti, je ale těžké je nastavit, protože nejsme zvyklí brát data, dívat se na ně a odhadovat, co se bude dít. 

Pomohlo by třeba, kdyby v Česku vznikl podobný obor jako ten, který jste studovala na Oxfordu? 

Nejde o obor. My máme výborné IT experty, ale jsou podfinancovaní. Jsou potřeba hlavně kvalitní manažeři, kteří jsou schopní identifikovat problém a ostrými lokty si v politice vybojovat jeho řešení. Zase uvedu jako příklad Slovensko, kde se daří přetahovat lidi ze špičkových firem do vlády. Další problém je, že většina prostředků se dedikuje na vývoj technologií a do technického vzdělání, nikoliv na vývoj regulací.

Procento vydané na vědu a výzkum je malé a nelepší se to ani přes iniciativy Evropské unie. V Česku jsme se nedostali ještě ani ke schraňování jakýchkoliv dat. A bez nich to nejde: pokud neznáme data, nemůžeme plánovat do budoucna. Jako kdybyste nevěděla, kolik vyděláváte, a plánovala, jak budete žít.

A kdo by ten sběr měl dělat?

Státní správa ví, jaká potřebuje data, Český statistický úřad nějaká schraňuje. To, že se s nimi nepracuje, je druhá věc. Byznys má mnoho dat, ale ta by měla projít auditem nebo výzkumem akademické sféry, aby ty výsledky, co z toho vyvozují, byly relevantní. Chybí spolupráce mezi státní a akademickou sférou a byznysem.

Proto jste založila v roce 2018 think tank Internetový institut?

Přesně tak. Bohužel první dva roky jsme se nevěnovali ničemu jinému než tomu, že jsme vysvětlovali zákonodárcům, že by měli řešit právo v technologiích, protože jedině právo může ochránit občana. V zahraničí jsou podobné iniciativy masivně financované státem nebo univerzitami. Jeden z našich cílů je vytvořit tu alespoň základní zázemí pro výzkum v této oblasti. Také jsme ve spolupráci s Livesportem připravili vzdělávací kurz pro veřejnost.

Pojďme se přesunout k tomu, jakou roli v tom všem má armáda. Vy jste na začátku roku 2020 vstoupila do aktivních záloh Velitelství kybernetických sil a informačních operací. Jak vás to napadlo?

To nebyl můj nápad, oni mě sami oslovili. Dělala jsem přednášku pro NÚKIB, tam si mě všimli. Myslím, že aktivní zálohy jsou super iniciativa, jak zapojit experty, které by bylo těžké nalákat na armádní plat.

Kybersíly v této podobě vznikly nedávno, v roce 2019, respektive 2020. Co se teď řeší?

Ano, jsou to nové síly, které reagují na momentální potřeby společnosti a její ochranu. Teď se hlavně nastavují reálné scénáře, co může nastat a jak na to reagovat. My odborníci tam přinášíme nejaktuálnější informace z našich oborů, upozorňujeme na budoucí i současné hrozby.

Například jaké hrozby?

Řeknu to obecně, jak se to řeší po celém světě. Některé státy organizovaně vedou dezinformační kampaně, není to jenom Čína, ale je jich celá řada. Některé to skrývají lépe a jiné hůře. Dále jsou to kybernetické útoky na "dráty", napíchnutí nebo přehlcení infrastruktury, což může mít za následek znemožnění mobilizace některých druhů sil.

Já řeším aktuální trendy v ovlivňování občanů pomocí dezinformací. Dezinformace jsou vlastně klasické psychologické operace, které tu byly odjakživa. Například v Německu za druhé světové války Američané distribuovali prezervativy velikosti XL, ale s označením medium, aby snížili morálku německých vojáků. Takže řeším klasické psychologické operace, které se ale přesunuly do online prostředí. 

Jaká je role umělé inteligence čili AI v dezinformacích?

Velká! Obrovskou úlohu v šíření dezinformací mají boti. Boti jsou jednoduché programy, fungují na bázi AI, které mají simulovat chování člověka na internetu. Jsou naprogramovaní k šíření dezinformací a přesvědčování jiných uživatelů o své pravdě.

Můžu vůbec poznat, že se v internetové diskuzi hádám s botem?

Můžete to zkusit tím, že mu položíte hodně kontextově založenou otázku, zároveň ale někdy bot nepozná, že se hádá s jiným botem, pak se zapletou a musí se vypnout.

Je ale zrovna armáda tím, kdo by měl proti dezinformacím nějak zasahovat? 

Myslím, že proti dezinformacím by měla bojovat vláda ve spolupráci s armádou, když by na to přišlo. Řešením by bylo, aby bylo jedno centrum, které to mapuje. 

Takové centrum už existuje pod ministerstvem vnitra, Centrum proti terorismu a hybridním hrozbám.

A co dělá?

To právě nevím. Nejsou viditelné výstupy.

No a to je ono. Musíme sjednotit boj proti dezinformacím do jednoho efektivního centra, dát mu jasné cíle, dedikovat rozpočet, využít odborníky. Máme tady talentované lidi, kteří tohle umí na světové úrovni, třeba firma Semantic Visions, ty musíme využít.

VIDEO: Vláda nemluví jedním hlasem, dezinformacím nerozumí a nepřikládá jim váhu, říká František Vrabel.

Ministři se nikdy neocitli v takové situaci, jako je pandemie koronaviru. Chybí strategická komunikace, na ministerstvu dezinformacím nerozumí. | Video: Daniela Drtinová
 

Pokud jste v článku zaznamenali chybu nebo překlep, dejte nám, prosím, vědět prostřednictvím kontaktního formuláře. Děkujeme!

Právě se děje

před 26 minutami

Warriors vydařeným týmovým výkonem na úvod semifinále NBA přehráli Dallas

Basketbalisté Golden State Warriors vstoupili vítězně do semifinále play off NBA a doma přehráli Dallas Mavericks jasně 112:87. Přivedl je k tomu povedený týmový výkon, protože sedm hráčů mělo dvouciferný počet bodů. Stephen Curry nasbíral 21 bodů a 12 doskoků, Andrew Wiggins a Jordan Poole přidali po 19 bodech. Warriors se navíc povedlo přibrzdit hvězdu Dallasu Luku Dončiče, který na 20 bodů potřeboval 18 střel a navíc měl sedm ztrát.

Další zprávy