Počet snímků s dětskou pornografií, které vytvořila umělá inteligence, na internetu stoupá od loňského podzimu. "Od té doby, co je možné generovat obrázky pomocí umělé inteligence, je jich úplná záplava. Nejsou tam jen mladé dívky, ale dokonce batolata," popisuje britské stanici BBC výzkumnice a novinářka Octavia Sheepshanksová, která téma poslední měsíce zkoumá.
"Jsou tam ty nejhorší možné věci, které ani nedokážu pojmenovat, a nevěděla jsem, že existují," dodává. Jako příklad uvádí uměle vytvořené fotografie ukazující znásilňování batolat.
Přestože nejde o reálné děti, Ian Critchley z britské Národní rady policejních ředitelů poukazuje na velký problém s tím spojený: pedofilové by se podle něj "mohli přesunout na škále trestné činnosti od myšlenek a umělých fotografií až ke zneužívání skutečných dětí".
Podobný názor má i Yiota Sourasová z amerického Národního centra pro ztracené a zneužívané děti. Upozorňuje, že agresoři mohou snímky vytvářet proto, aby sexualizaci dětí před svými nezletilými oběťmi normalizovali a dostali podobné reálné snímky od nich. "Skutečnost, že někdo dokáže vytvořit za odpoledne sto fotek a použít je k tomu, aby z dítěte takové chování dostal, je neuvěřitelně škodlivé," říká pro americký deník The Washington Post.
Obětí může být i skutečné dítě
Umělá inteligence dokáže pracovat také s fotografiemi, které jí uživatelé poskytnou. Na reálně vypadajících obrázcích se tak už objevily i děti, které byly zneužívané v minulosti.
"Záběr z videa dítěte dostupného na sociálních sítích nebo natočené na veřejném místě z něj může udělat potenciální oběť dětské pornografie. Může to zasáhnout každé dítě v naší komunitě," cituje server Complex kanadského soudce, který za vytváření dětské pornografie pomocí umělé inteligence a její distribuci odsoudil v dubnu 61letého muže na osm let za mřížemi.
Ian Critchley navíc dodává, že velké množství fotorealistických snímků navíc zpomaluje proces identifikace a pomoci skutečným obětem zneužívání.
Přístup za předplatné
Mnoho lidí na vytváření nahých snímků umělou inteligencí vydělává. Fotografie se často objevují na japonských sociálních sítích, kde není nelegální sdílet sexualizované obrázky kreslených postaviček a dětí. K nim jejich tvůrci přidali odkazy na placené servery s "necenzurovaným obsahem".
Například za předplatné na známé platformě Patreon, kde lze přímo podporovat jednotlivé mediální tvůrce, jeden z účtů slibuje "poddajné dívky, které trénuju na svém počítači" a účtuje si 180 korun měsíčně.
Stanice BBC firmu Patreon i japonskou sociální síť kontaktovala a obě potvrdily, že snímky vytvořené umělou inteligencí porušují jejich pravidla. Smazaly je a dodaly, že takových účtů vídají stále víc.
O komentář stanice požádala také společnost, která stojí za programem Stable Diffusion, který pomocí umělé inteligence snímky vytváří. Na rozdíl od konkurenčních programů je tento software veřejně dostupný, tedy v open-source verzi, lze ho tedy přeprogramovat a obejít tak omezení daná výrobcem. Ta zahrnují například zákaz vytváření dětské pornografie a dalších nelegálních snímků. Firma potvrdila, že vytváření takových materiálů odporuje jejich pravidlům.
"Soukromé společnosti nechtějí hrát roli ve vytváření toho nejhoršího obsahu na internetu," soudí podle The Washington Post Kate Klonicková z právnické fakulty americké St. John's University. "Nejvíc mě ale děsí otevřené zveřejnění těchto nástrojů, kde je může jednotlivec nebo pochybné společnosti použít a hned zmizet," dodává.
Kromě Kanady, kde za držení a šíření pornografie vytvořené umělou inteligencí už padl trest, jde o přečin i ve Spojených státech, Velké Británii nebo také v Česku. "Výroba i držení jakékoliv formy dětské pornografie je v České republice trestné, tedy i formy, kterou popisujete," uvedla pro Aktuálně.cz zmocněnkyně pro lidská práva Klára Šimáčková Laurenčíková. Data o tom, jak rozšířený je tento fenomén na českém internetu, ale nemá.
