Internetové aplikace pro komunikaci se kromě běžných účelů využívají i pro posílání zpráv s dětskou pornografií, predátoři přes ně také oslovují mladistvé, na které vyvíjí nátlak a požadují po nich zaslání intimních snímků.
Evropský parlament a Rada se nyní snaží podobnému chování zabránit. Připravily prozatímní nařízení, které umožní automaticky skenovat komunikaci na internetu, odhalovat případy pohlavního zneužívání dětí, odstraňovat je a předávat je policii.
"Dětská pornografie, fotografie a videa zneužívání dětí a sexuálního násilí je to nejodpornější, co se dá na internetu najít. Opatření se ukazuje jako velmi užitečné," komentuje pro Aktuálně.cz návrh nařízení místopředsedkyně Evropské komise Věra Jourová.
Nařízení podle ní pomůže ochránit případné oběti, omezí šíření takového materiálu v on-line prostoru a přispěje ke snadnějšímu odhalení pachatelů. Odpůrcům nařízení se ale nelíbí, že umělá inteligence bude plošně zkoumat veškerý obsah on-line komunikace. Podle nich se jedná o prolomení její důvěrnosti.
"Přestože zprávy projíždí umělá inteligence, já v tom nevidím zásadní rozdíl oproti tomu, kdyby vám pročítal e-maily člověk. V tomto ohledu je to zásadní zásah do soukromí," říká Jan Vobořil, výkonný ředitel organizace Iuridicum Remedium, která se zabývá ochranou soukromí a digitálními právy.
S plošným monitorováním soukromých konverzací nesouhlasí ani místopředseda Evropského parlamentu Marcel Kolaja (Piráti). "Samozřejmě si uvědomuji vážnost situace ohledně zneužívání dětí na internetu, nicméně tento návrh nám problémy spíše přidělá, nežli je vyřeší. Není možné oslabit šifrování jenom pro zločince, stejně tak jako není možné vytvořit zadní vrátka jenom pro veřejné orgány," tvrdí Kolaja.
"Jakmile je jednou šifrování oslabeno, stává se natolik zranitelným, že může být zneužito jakýmkoli dalším aktérem. V konečném důsledku by se tak děti ocitly v ještě větším ohrožení," dodává.
Že nařízení umožňuje lidský dohled nad použitou technologií včetně případného ověření obsahu, uznává i eurokomisařka Jourová. Vzápětí ale dodává, že tento dohled slouží především k minimalizaci chybného hlášení. Může se totiž stát, že poskytovatel komunikace obsah vyhodnotí chybně.
"Poskytovatelé musí používat přísná ochranná opatření, aby zajistili, že jakékoliv zjištěné materiály o pohlavním zneužívání dětí budou zpracovány bezpečně a okamžitě nahlášeny a že nebude zpracován žádný další obsah," ubezpečuje však Jourová.
Messenger od Facebooku nebo Gmail
Nařízení funguje na dobrovolné bázi a má vést k větší jistotě v práci policie v boji proti zneužívání dětí na internetu. "Nařízení se netýká zdaleka všech komunikačních aplikací, ale pouze těch, které se dobrovolně zavázaly s tímto nešvarem digitální doby něco dělat právě prostřednictvím automatického skenování, jako například aplikace Messenger od Facebooku," vysvětluje Jourová.
Důvodem, proč přišla komise s touto právní úpravou teď, je zároveň i to, že jde o určitou formu legalizace automatického skenování konverzací. Odpovědi na otázku, zda se jedná o legální praktiku, se do této doby lišily. Již před touto dohodou totiž některé komunikační platformy, jako je například Gmail nebo Outlook.com, možnost prohledávání osobní elektronické pošty využívaly, ale nevěděly, zda tak nečiní v rozporu s evropskými zákony.
Plošné skenování se nyní týká všech komunikačních služeb, které jsou nezávislé na mobilních číslech a které se k němu dobrovolně zavážou. Mezi ně řadíme například e-mailovou komunikaci či služby pro rychlou výměnu zpráv, jako je Messenger či programy typu Skype.
Vobořil ale vidí zásadní problém v tom, že umělá inteligence, kterou tyto služby využívají, má svoje limity ve vyhodnocování obsahu a může vést k tomu, že lidé budou falešně obviňováni z páchání trestného činu.
Budeme šmírovat nevinné, zločince nikoli, namítají kritici
"Lidem to může vadit, protože si mohou posílat obsah se sexuálním podtextem a nikomu není příjemné, aby si tyto zprávy někdo četl. Fotky mohou být vyhodnoceny třeba jako dětská pornografie jen kvůli tomu, že dotyčný vypadá mladě," vysvětluje Vobořil.
Kolaja v tomto směru dodává, že skenování konverzací na velkých platformách povede pouze k tomu, že se kriminálníci přesunou tam, kde bude plošné monitorování technicky nemožné. "Ve výsledku tak bude stát šmírovat nevinné, zatímco zločince odposlouchávat nedokáže," říká Kolaja.
Stejného názoru je i Vobořil. Podle něj by nařízení nevyřešilo ani problém, který se vyskytl u sociální sítě Reddit. "Bylo by to řešení jednoho problému, navíc podle mě špatné, ale pořád tu budou aplikace, které mají způsob komunikace, jenž to nebude respektovat," vysvětluje Vobořil.
Kauza Reddit
Na sociální síti Reddit lze celkem snadno narazit na fotografie nahých žen a dívek, pod nimiž je i jejich jméno či alespoň přezdívka a v horším případě i místo, kde bydlí. Uživatelé, zpravidla expartneři dotyčných dívek, si zde snímky sdílejí, zájemci si je mohou i "objednat". Nezřídka se tam objevují i nahé fotografie nezletilých dívek. Oběti o tom většinou ani nevědí, a když už se to dozví, jsou bezmocné.
Nová pravidla ale podle Jourové zahrnují další záruky, které jdou nad rámec současných zákonů. Vyžadují například použití nejmodernějších technologických nástrojů pro rozpoznání pohlavního zneužívání dětí, které co nejméně narušují soukromí. Navíc podle ní údaje ukazují, že velká část podezřelých se opatření nesnaží obcházet.
"Je zřejmé, že velký počet jednotlivců nadále používá tyto komunikační služby i pro výměnu materiálů pohlavně zneužíváních dětí, i když služby otevřeně prohlašují, že používají automatické skenovací technologie," uvádí Jourová.
Nahlášení pornografie na internetu
Podle údajů zveřejněných americkým Národním centrem pro pohřešované a zneužívané děti (NCMEC) toto centrum dostalo v roce 2020 přibližně 20 milionů zpráv od jediného poskytovatele služeb, Facebooku (včetně Messengeru). Podle reportu o prosazování komunitních standardů Facebooku bylo více než 98% detekcí provedeno Facebookem, než byly nahlášeny uživateli.
Vobořil by ale raději volil standardní cesty, kterými může policie jít při podezření na zneužívání dětí. "Nemám nic proti tomu, když je někdo podezřelý z šíření dětské pornografie, že mu policie prohledá e-maily. To je samozřejmě legitimní názor. Problém je tady ten, že se to dělá plošně, u každé komunikace," uzavírá Vobořil s tím, že policie má s povolením soudu možnost nasadit odposlechy nebo nahlížet do počítače.
Orgány Evropské unie ale tímto nařízením cílí převážně na prevenci. Podle Jourové se mnohdy nestačí spoléhat na to, že oběti nebo jejich okolí takové chování nahlásí. "Oběti jsou často příliš mladé na to, aby tomu vůbec rozuměly nebo popsaly, co se děje. Mohou uplynout roky, než si něčeho lze všimnout, pokud vůbec," obhajuje důvody nařízení Jourová.
Ke konečnému schválení nařízení má dojít mezi 5. a 8. červencem, kdy o něm bude v plénu hlasovat Evropský parlament. Platnost bude mít tři roky. "Samozřejmě to je vysoce politické téma, jelikož se jedná o ochranu dětí. Proto se může stát, že mnoho europoslanců, kteří obecně ochranu soukromí on-line hlasitě podporují, poruší předvolební sliby a budou pro návrh hlasovat. Pro Piráty je ale silné šifrování jednou z priorit a s nařízeními, která by neproporčně narušovala soukromí občanů, nemůžeme souhlasit," uzavírá Kolaja.
Evropská komise se také zavázala, že v budoucnu připraví nové nařízení, které nahradí to stávající. Kdyby došlo k jeho přijetí, bude po poskytovatelích on-line služeb vyžadováno, aby dětskou pornografii povinně odhalovaly. Nyní je to na samotných službách, zda se rozhodnou tohoto práva využít.
