Umělá inteligence nám přerůstá přes hlavu. Její vývoj zastavit nejde, míní expertka

Jana Václavíková Jana Václavíková
Aktualizováno 10. 4. 2023 20:27
Nástup umělé inteligence, která během pár sekund napíše jakýkoliv text, zodpoví otázky nebo vytvoří realistické obrázky, rozvířil debaty o jejích etických rozměrech.
Tereza Bartoníčková.
Tereza Bartoníčková. | Foto: Jakub Plíhal

Známí technologičtí lídři a experti tento týden dokonce vyzvali k dočasnému pozastavení jejího vývoje, protože podle nich představuje zásadní rizika pro společnost. Zakladatelka Internetového institutu Tereza Bartoníčková v rozhovoru pro Aktuálně.cz hodnotí, co lidstvu s umělou inteligencí hrozí, zda může nahradit některá povolání a jestli by se měla regulovat.

Téměř dva tisíce lidí, včetně odborníků a technologických lídrů, jako je Elon Musk nebo Steve Wozniak, podepsaly otevřený dopis za pozastavení vývoje GPT-5, což je pokročilejší generace nedávno vydaného jazykového modelu umělé inteligence. Přerůstá nám to už přes hlavu?

Umělá inteligence nám přerůstá přes hlavu již léta. Podpis otevřeného dopisu je symbolem zoufalosti. Již dlouhou dobu se na tato témata upozorňuje, bohužel ale krátkozraké politiky vlád a často i technologických firem nemají motivaci přistoupit na společný dialog a dát "měkkým" argumentům dostatečnou relevanci. Teď nás tato opomenutí dohání.

Co je umělá inteligence?

  • Umělá inteligence neboli AI (z anglického Artificial Intelligence) je schopnost strojů napodobovat lidské schopnosti, jako je uvažování, učení se, plánování nebo kreativita.
  • Příkladem umělé inteligence je chatbot ChatGPT, virtuální asistenti Siri nebo Alexa. Umělá inteligence doporučuje také uživatelům Netflixu, jaký další obsah by je mohl zajímat.
  • Umělá inteligence v posledních měsících prožívá boom díky volně přístupnému systému ChatGPT od firmy OpenAI. Ten umožňuje zodpovědět jakoukoliv otázku, napsat text či e-mail v různých jazycích včetně češtiny.

Podepsala jste ho také?

Ne. Nemyslím si, že je vhodné volat po pozastavení ničeho, pokud jsme si zvolili operovat v kapitalistickém prostředí a v zemích, které jen málokdy zasahují do volného trhu. Na rizika zákazů a přílišné regulace tohoto typu, včetně žádostí o zastavení vývoje jakékoliv technologie, upozorňuji již delší dobu a zásadně nepodporuji tento způsob vypořádání se s riziky technologií. Jediné, co zákazy způsobí, bude, že se tento vývoj přesune do podzemí, skryje se. Tam nebudeme moct vývoj sledovat a ani se na jeho řízení podílet. 

Rizika, která jsou uvedena v dopise, samozřejmě vidím stejná. Doufám a chci, aby tyto snahy, širokosáhlé konverzace a extrémní znění dopisu vyvolaly finální tlak na politiky, instituty a firmy, aby konečně začaly brát měkké vědy vážně a zakomponovali je i ve svém zájmu do svých rozhodnutí. Jen tak dokážeme formovat budoucí svět pro náš benefit. 

Ukázky odpovědí umělé inteligence

Co nebo kdo jsi?

Jsem chatbot využívající technologii umělé inteligence od společnosti OpenAI. Můj účel je pomáhat uživatelům s jejich dotazy a problémy. Jak vám mohu pomoci?

Co je ChatGPT?

ChatGPT je chatbot, který využívá technologii umělé inteligence od společnosti OpenAI. Tento chatbot dokáže simulovat konverzaci s uživatelem a vytvářet odpovědi na míru. ChatGPT umí česky a je dostupný jako placená služba ChatGPT Plus.

Co je Aktuálně.cz?

Aktuálně.cz je online deník vycházející na českém internetu. Vydává jej společnost Economia, a.s. vlastněná podnikatelem Zdeňkem Bakalou. Aktuálně.cz vyšlo poprvé 1. listopadu 2005 a je jedním z nejúspěšnějších titulů společnosti.

Zdroj: Bing, OpenAI

Jde vývoj umělé inteligence ještě vůbec zastavit nebo zbrzdit?

Věřím, že vývoj zabrzdit či zastavit nejde. A pokud by se tak dělo, bylo by to jen zdánlivé. Bohužel se v momentální náladě na tyto technologie díváme ze skoro apokalyptického pohledu, kvůli tomu, že jsme zaspali vhodný čas k rozvoji společného řízení. 

Zničí nás umělá inteligence?

Když jsme u apokalyptických vizí, hrozí podle vás, že by dostatečně rozvinutá umělá inteligence mohla zničit lidstvo, jak v komentáři týdeníku Time píše teoretik umělé inteligence Eliezer Yudkowsky? 

Na destrukci to zatím neodhaduji. Musíme alespoň nyní všechny své síly zaměřit na vytváření otevřeného, i když nepochybně vášnivého prostředí k debatování o technologiích. I kdyby diskuse o vývoji AI měly být boje do krve, není za co více se rvát než za zachování lidskosti našich společností. To nejhorší, co můžeme udělat, je tyto nutné debaty vyeliminovat zákazy a zahnat vývoj technologií do úkrytu.

Je problémem jenom GPT, nebo i další systémy od jiných společností?

Řekněme, že GPT je jeden z mála systémů, který se jeho tvůrci rozhodli zveřejnit. Je to jen deset centimetrů čtverečních na vrcholu ledovce.

Regulují některé země nebo společenství používání umělé inteligence? A je podle vás nějaká regulace vůbec potřeba?

Regulace jako slovo je často bráno negativně. Já prosazuji určení mantinelů. Vymezení si směru a následně absolutní volnost vývoje nastavením mantinelů zúžit na určitou volnost. Popsat si, jak vypadá oheň, a vyhnout se jeho založení. Ne ho pak hasit, když nám hoří celý les. Tedy shodnout se na tom, kam momentálně určitě nechceme zamířit, a jít bok po boku směrem, na kterém se shodneme. 

Na stanovení mantinelů bychom tedy měli začít pracovat okamžitě, u jednoho stolu, a dát výstupům maximální relevanci. A rozhodně se nepouštět do extremistických řešení, která jen prohloubí konflikt mezi společností a technologickými vývojáři.

Umělá inteligence a pracovní místa

Pomocí umělé inteligence lze vytvořit obrázky takřka k nerozeznání od pravých fotek, což může prohloubit problém šíření dezinformací. Jak se k tomu stavíte?

Umělá inteligence by mohla lépe začleňovat dezinformace do běžného obsahu a učinit je těžko rozlišitelnými od pravdivého obsahu. Zároveň dokáže zrychlovat jejich šíření a kvůli preciznímu cílení a analýze sentimentu uživatelů dokáže zvýšit popularizaci dezinformace ve společnosti. 

Mluví se také o tom, kolik lidí přijde kvůli umělé inteligenci o práci. Jak by se to mohlo dotknout Čechů a jakých oborů?

Toto je velice zajímavé téma, které by si zasloužilo spoustu vlastních rozhovorů s mnoha odborníky. Dám vám na to můj pohled. Jeden z efektů, které měl mít kapitalismus, byl neustále se zvyšující blahobyt ve společnosti. Jako společnost jsme se bohužel téměř vzdali prohlubování společenského benefitu z pokroku a jako hlavní cíl si dali zvyšování kapitálu jednotlivců a jejich podniků na úkor těch, kteří kapitál nevlastní. Představte si, že do výroby byl uveden jeden stroj, například na pletení vánoček. Ten pomohl zkrátit celkovou dobu na upletení cílového počtu vánoček. Pokud by to bylo využito k benefitu celé firmy, pak by klidně pekaři mohli pracovat o den méně a firmě by se dostalo v nejhorším případě naprosto stejných zisků, obecně by ale blahobyt vzrostl. Nicméně většina firem upřednostní maximalizaci zisku, nikoliv společenský benefit. 

Pokud dopadne AI jako kapitalismus, pak se máme čeho bát. Pokud ale na AI budeme nahlížet jako na možnost radikálně změnit celospolečenský přístup k práci jako takové, máme se na co těšit. Celospolečenská úleva od určitých činností může klidně přinést diverzifikaci práce, menší závislost na finančních benefitech z volby určitých oborů a možná i lepší společenskou soudržnost. 

U mnoha čistě rutinních prací je možné, že budeme pozorovat celospolečenský přerod toho, co za profese bude potřeba do budoucna. Například i AI někdo musí kvalifikovaně zadávat práci a zdroje, vyřazovat zaujetí, identifikovat nové možnosti a tak dále. AI člověka neeliminuje, ale rozšiřuje mu možnosti. A věřím, že nástup AI do profesí bude více postupný, než si představujeme, a i většina nynějších profesí bude existovat spolu s AI systémy, které budou vykonávat stejnou či obdobnou činnost.

Video: Pokud si umělou inteligenci neuvědomujeme, může nás manipulovat, říká Bartoníčková (1. 4. 2022)

Offline a online svět se už oddělit nedá. I když jsme odpojení, žijeme ve státě, který je s online světem propojený. | Video: Daniela Písařovicová
 

Právě se děje

Další zprávy