Muskova AI generuje tisíc svlékacích fotek za hodinu, europarlament jí vystavil stopku

Přidejte si Aktuálně.cz mezi preferované zdroje na GoogluPřidat Aktuálně.cz mezi preferované zdroje

Poslanci Evropského parlamentu v úterý schválili balíček na zjednodušení a zmírnění legislativy regulující technologie umělé inteligence (AI). Součástí je i zákaz svlékacích aplikací, který do návrhu prosadila česká europoslankyně Markéta Gregorová (Piráti) z frakce Zelených.

Pro návrh se vyslovilo 423 europoslanců, zatímco 57 hlasovalo proti a 174 se hlasování zdrželo.

Zákaz svlékacích aplikací bude platit od 2. prosince. Zakázáno bude například uvádět na unijní trh systémy AI za účelem vytváření podobného obsahu, případně uvádění takových systémů na unijní trh bez přiměřených bezpečnostních opatření, jež by vytváření takových materiálů zabránila.

Text konkrétně zmiňuje „materiál zobrazující sexuální zneužívání dětí nebo zobrazující intimní partie identifikovatelné osoby či takový, který ji zachycuje při sexuálně explicitních činnostech bez jejího souhlasu“.

Schválený návrh odkládá některé povinnosti firem vyplývající z takzvaného aktu o AI. Pro vysoce rizikové AI systémy výslovně uvedené v nařízení bude platit odklad na 2. prosince 2027. Pro systémy, na něž se vztahují unijní právní předpisy regulující konkrétní odvětví, budou povinnosti odložené až do 2. srpna 2028.

Balíček by měl také odstranit požadavky na AI u strojních zařízení, pokud se překrývají s povinnostmi vyplývajícími z regulace tohoto odvětví. Budou splňovat pouze bezpečnostní požadavky platící pro celý strojírenský sektor.

Schválený návrh dále upřesnil definici takzvané bezpečnostní komponenty. Výrobky s funkcemi AI, které pouze pomáhají uživatelům nebo optimalizují výkon, nebudou automaticky podléhat povinnostem pro vysoce rizikové systémy, pokud jejich selhání nebo porucha nepředstavuje riziko pro zdraví nebo bezpečnost, uvedl Evropský parlament v tiskové zprávě.

Balíček také zmírňuje ochranu osobních údajů. Firmy je budou moct zpracovávat, pokud je to „nezbytně nutné k odhalení a nápravě zkreslení“. Týká se to jak vysoce rizikových systémů AI, tak těch ostatních. Předpis také rozšiřuje výjimky pro malé a střední podniky z některých povinností.

„Cílem tohoto souhrnného balíčku bylo zajistit právní jistotu prodloužením některých lhůt při zachování struktury aktu o umělé inteligenci a posílení ochrany tam, kde to bylo možné. Dohodli jsme se na omezené změně týkající se strojních zařízení, s jasnými zárukami, a zajistili jsme úplný zákaz AI svlékacích aplikací,“ uvedl jeden ze dvou zpravodajů návrhu, irský europoslanec Michael McNamara z frakce Obnova Evropy.

Grok jich dělá tisíc za hodinu

„Jsem ráda, že se mi podařilo prosadit tvrdý zákaz aplikací, které umí za pár kliknutí vytvořit nahou fotku kohokoliv. Například Muskův Grok takto vytváří několik tisíc obrázků každou hodinu. Oběťmi jsou především ženy a děti. To už ale od 2. prosince letošního roku nebude možné,“ uvedla Gregorová, která byla stínovou zpravodajkou návrhu.

„Nová pravidla donutí technologické firmy zneužití těchto nástrojů natvrdo blokovat,“ dodala.

Europoslanec Jaroslav Bžoch (ANO) z frakce Patrioti pro Evropu (PfE) s Gregorovou nesouhlasí. Zákaz svlékacích aplikací podle něj dělá z balíčku horší legislativu. „Navíc vám odborníci řeknou, že u jakéhokoliv AI to trochu chytřejší programátor dokáže obejít. Takže to jen vývojářům znepříjemní život,“ dodal.

„Vedla se kolem toho desetihodinová debata, kterou považuji za absurdní. Bavili jsme o tom, jestli svlékací aplikace znamená částečně odhalené pozadí, nebo celé odhalené pozadí a podobně,“ dodal.

Bžoch dále novinářům řekl, že legislativu považuje za krok správným směrem a podpořil ji. „Jen jsme v tom zjednodušení a rušení duplicitních povinností mohli jít dál,“ dodal a jako příklad uvedl systémy AI ve zdravotnictví, které budou nadále podléhat dvěma legislativám.

Na problematiku sexualizovaného obsahu generovaného AI v minulých měsících upozornil především skandál americké sociální sítě X podnikatele Elona Muska. Její uživatelé pomocí chatbota Grok bez souhlasu generovali a upravovali sexualizované fotografie skutečných žen a dětí.