EU chystá tvrdou regulaci umělé inteligence. Nebude smět hodnotit lidské emoce

Kateřina Šafaříková Kateřina Šafaříková
17. 4. 2023 17:41
Evropští poslanci dokončují návrhy k celoevropské regulaci umělé inteligence. Politici napříč spektrem chtějí, aby bylo zakázáno rozpoznávání osob v reálném čase pomocí softwaru nebo vyhodnocování emocí lidí počítačovou technologií. Pokud požadavky poslanců podpoří jednotlivé vlády, Evropa bude mít dosud nejtvrdší pravidla pro využití umělé inteligence na světě.
Europoslanci chtějí regulovat umělou inteligenci. Například i chatovací roboty, mezi které patří ChatGPT.
Europoslanci chtějí regulovat umělou inteligenci. Například i chatovací roboty, mezi které patří ChatGPT. | Foto: Shutterstock

Historicky první unijní zákon o umělé inteligenci (AI) navrhla Evropská komise před dvěma lety a loni v prosinci během českého předsednictví EU schválily svoje stanovisko také členské státy EU. Debatu ministrů tehdy řídil místopředseda vlády pro digitalizaci Ivan Bartoš (Piráti) a výsledek označil za "křehkou rovnováhu" mezi inovacemi a ochranou základních práv a soukromí občanů.

Členské státy mimo jiné podpořily, aby programy mohly ve vymezených situacích rozpoznávat osoby na dálku na základě biometrických dat. Ministři uvedli, že by to mohlo vést například k včasné identifikaci nebezpečného teroristy.

Europoslanci ale chtějí jít v regulaci umělé inteligence dál. Vyjednávači navrhují, aby bylo možné biometricky rozpoznávat lidi na ulici jen zpětně a na základě soudního příkazu. 

"Je to zvážení dvou rizik: buď potrvá chytit teroristu o něco déle, nebo shromáždíte takové množství biometrických dat o jednotlivcích, že půjde na dálku rozpoznat v davu lidí opozičníka a hned ho zatknout, jako se to už děje v Rusku," popsal pro online deník Aktuálně.cz a Hospodářské noviny europoslanec Marcel Kolaja, jeden ze stínových zpravodajů návrhu. 

"Většina kolegů včetně mě podporuje zákaz takové identifikace osob," dodal zástupce Pirátů. Obdobná úprava umožňuje třeba v USA používat umělou inteligenci pro identifikaci osob v reálném čase.

Evropští poslanci se také kloní k zákazu využívat software ke "čtení" lidských emocí, až na výjimečné případy například ve zdravotnictví. Europoslanci upozorňují, že vidina úspor by mohla motivovat firmy a instituce k používání AI k vyhodnocování uchazečů při výběrových řízeních. Vedlo by to podle nich k velké chybovosti a diskriminaci lidí, protože ne každý má standardní mimiku - ten, kdo krčí čelo, se nemusí nutně hněvat a podobně.

Krádež, nebo jen učení se?

Konfliktní téma se pak rýsuje u uměle vygenerovaných fotek a obrazů. Agentura Getty Images momentálně žaluje v Británii výrobce programu Stability AI za to, že k vývoji svého softwaru použil data z milionů fotek Getty Images, aniž by k tomu agentura dala svolení. Část europoslanců proto chce, aby využívání cizích děl umělou inteligencí řešila i probíraná legislativa. Další jsou proti. 

"Brzdilo by to vývoj a inovace, kdyby se tu zpoplatnila autorská práva. AI v tomto případě fotky dál neprodává, jen se na nich učí," tvrdí Kolaja.

Po regulaci umělé inteligence v Evropě volá řada odborníků. Upozorňují, že vývoj jde kupředu rychleji, než se předpokládalo, a stávající "hřiště" za ním zaostává. Belgická a francouzská média například psala o několika školách, kde se ukázalo, že jejich žáci nechali svoje obzvlášť vynikající eseje napsat programy typu ChatGPT. I těch by se nová legislativa měla týkat.

ChatGPT je zřejmě nejpopulárnějším chatovacím robotem na světě, který je od konce loňského listopadu zdarma a u veřejnosti si rychle získal popularitu. Na základě jednoduchých dotazů dokáže generovat články, eseje, vtipy, ale i poezii. V Itálii byl letos v dubnu zakázán.

Průkopnická technologie bez pravidel

Europoslanci se dohodnou na své představě regulace umělé inteligence zřejmě už tento týden. Následovalo by pak vyjednávání o konečné podobně normy s členskými státy. Cíl obou je schválit ji do začátku roku 2024. 

"Máme co dělat s průkopnickou technologií a využít ji znamená zavést co nejdříve jasná pravidla," citoval list Financial Times jednoho ze zpravodajů, europoslance Dragose Tudorachea.

Video: Umělá inteligence v umění otevírá nový svět, říká Tyl (16. 8. 2023)

„Pokrok v určitých oblastech umělé inteligence je obrovský, dá se to zneužít v propagandě, ale technologie jako takové bych se nebál," říká Jan Tyl. | Video: Daniela Písařovicová
 

Právě se děje

Další zprávy