Historicky první unijní zákon o umělé inteligenci (AI) navrhla Evropská komise před dvěma lety a loni v prosinci během českého předsednictví EU schválily svoje stanovisko také členské státy EU. Debatu ministrů tehdy řídil místopředseda vlády pro digitalizaci Ivan Bartoš (Piráti) a výsledek označil za "křehkou rovnováhu" mezi inovacemi a ochranou základních práv a soukromí občanů.
Členské státy mimo jiné podpořily, aby programy mohly ve vymezených situacích rozpoznávat osoby na dálku na základě biometrických dat. Ministři uvedli, že by to mohlo vést například k včasné identifikaci nebezpečného teroristy.
Europoslanci ale chtějí jít v regulaci umělé inteligence dál. Vyjednávači navrhují, aby bylo možné biometricky rozpoznávat lidi na ulici jen zpětně a na základě soudního příkazu.
"Je to zvážení dvou rizik: buď potrvá chytit teroristu o něco déle, nebo shromáždíte takové množství biometrických dat o jednotlivcích, že půjde na dálku rozpoznat v davu lidí opozičníka a hned ho zatknout, jako se to už děje v Rusku," popsal pro online deník Aktuálně.cz a Hospodářské noviny europoslanec Marcel Kolaja, jeden ze stínových zpravodajů návrhu.
"Většina kolegů včetně mě podporuje zákaz takové identifikace osob," dodal zástupce Pirátů. Obdobná úprava umožňuje třeba v USA používat umělou inteligenci pro identifikaci osob v reálném čase.
Evropští poslanci se také kloní k zákazu využívat software ke "čtení" lidských emocí, až na výjimečné případy například ve zdravotnictví. Europoslanci upozorňují, že vidina úspor by mohla motivovat firmy a instituce k používání AI k vyhodnocování uchazečů při výběrových řízeních. Vedlo by to podle nich k velké chybovosti a diskriminaci lidí, protože ne každý má standardní mimiku - ten, kdo krčí čelo, se nemusí nutně hněvat a podobně.
Krádež, nebo jen učení se?
Konfliktní téma se pak rýsuje u uměle vygenerovaných fotek a obrazů. Agentura Getty Images momentálně žaluje v Británii výrobce programu Stability AI za to, že k vývoji svého softwaru použil data z milionů fotek Getty Images, aniž by k tomu agentura dala svolení. Část europoslanců proto chce, aby využívání cizích děl umělou inteligencí řešila i probíraná legislativa. Další jsou proti.
"Brzdilo by to vývoj a inovace, kdyby se tu zpoplatnila autorská práva. AI v tomto případě fotky dál neprodává, jen se na nich učí," tvrdí Kolaja.
Po regulaci umělé inteligence v Evropě volá řada odborníků. Upozorňují, že vývoj jde kupředu rychleji, než se předpokládalo, a stávající "hřiště" za ním zaostává. Belgická a francouzská média například psala o několika školách, kde se ukázalo, že jejich žáci nechali svoje obzvlášť vynikající eseje napsat programy typu ChatGPT. I těch by se nová legislativa měla týkat.
ChatGPT je zřejmě nejpopulárnějším chatovacím robotem na světě, který je od konce loňského listopadu zdarma a u veřejnosti si rychle získal popularitu. Na základě jednoduchých dotazů dokáže generovat články, eseje, vtipy, ale i poezii. V Itálii byl letos v dubnu zakázán.
Průkopnická technologie bez pravidel
Europoslanci se dohodnou na své představě regulace umělé inteligence zřejmě už tento týden. Následovalo by pak vyjednávání o konečné podobně normy s členskými státy. Cíl obou je schválit ji do začátku roku 2024.
"Máme co dělat s průkopnickou technologií a využít ji znamená zavést co nejdříve jasná pravidla," citoval list Financial Times jednoho ze zpravodajů, europoslance Dragose Tudorachea.
