Automatické skenování odhalí v chatu dětskou nahotu. Zásah do soukromí, říká právník

Anna Pálová
2. 7. 2021 18:34
Internetové aplikace, přes které lidé komunikují, by mohly získat nástroj, jak odhalovat dětskou pornografii. Evropská unie jim chce umožnit, aby algoritmus automaticky procházel soukromé konverzace, závadný obsah vyhledával a hlásil policii. Kritici tohoto nástroje však tvrdí, že jde o prolomení soukromí.
Ilustrační foto
Ilustrační foto | Foto: Shutterstock

Internetové aplikace pro komunikaci se kromě běžných účelů využívají i pro posílání zpráv s dětskou pornografií, predátoři přes ně také oslovují mladistvé, na které vyvíjí nátlak a požadují po nich zaslání intimních snímků. 

Evropský parlament a Rada se nyní snaží podobnému chování zabránit. Připravily prozatímní nařízení, které umožní automaticky skenovat komunikaci na internetu, odhalovat případy pohlavního zneužívání dětí, odstraňovat je a předávat je policii. 

"Dětská pornografie, fotografie a videa zneužívání dětí a sexuálního násilí je to nejodpornější, co se dá na internetu najít. Opatření se ukazuje jako velmi užitečné," komentuje pro Aktuálně.cz návrh nařízení místopředsedkyně Evropské komise Věra Jourová.

Nařízení podle ní pomůže ochránit případné oběti, omezí šíření takového materiálu v on-line prostoru a přispěje ke snadnějšímu odhalení pachatelů. Odpůrcům nařízení se ale nelíbí, že umělá inteligence bude plošně zkoumat veškerý obsah on-line komunikace. Podle nich se jedná o prolomení její důvěrnosti. 

"Přestože zprávy projíždí umělá inteligence, já v tom nevidím zásadní rozdíl oproti tomu, kdyby vám pročítal e-maily člověk. V tomto ohledu je to zásadní zásah do soukromí," říká Jan Vobořil, výkonný ředitel organizace Iuridicum Remedium, která se zabývá ochranou soukromí a digitálními právy.

S plošným monitorováním soukromých konverzací nesouhlasí ani místopředseda Evropského parlamentu Marcel Kolaja (Piráti). "Samozřejmě si uvědomuji vážnost situace ohledně zneužívání dětí na internetu, nicméně tento návrh nám problémy spíše přidělá, nežli je vyřeší. Není možné oslabit šifrování jenom pro zločince, stejně tak jako není možné vytvořit zadní vrátka jenom pro veřejné orgány," tvrdí Kolaja.

"Jakmile je jednou šifrování oslabeno, stává se natolik zranitelným, že může být zneužito jakýmkoli dalším aktérem. V konečném důsledku by se tak děti ocitly v ještě větším ohrožení," dodává.

Že nařízení umožňuje lidský dohled nad použitou technologií včetně případného ověření obsahu, uznává i eurokomisařka Jourová. Vzápětí ale dodává, že tento dohled slouží především k minimalizaci chybného hlášení. Může se totiž stát, že poskytovatel komunikace obsah vyhodnotí chybně. 

"Poskytovatelé musí používat přísná ochranná opatření, aby zajistili, že jakékoliv zjištěné materiály o pohlavním zneužívání dětí budou zpracovány bezpečně a okamžitě nahlášeny a že nebude zpracován žádný další obsah," ubezpečuje však Jourová.

Messenger od Facebooku nebo Gmail

Nařízení funguje na dobrovolné bázi a má vést k větší jistotě v práci policie v boji proti zneužívání dětí na internetu. "Nařízení se netýká zdaleka všech komunikačních aplikací, ale pouze těch, které se dobrovolně zavázaly s tímto nešvarem digitální doby něco dělat právě prostřednictvím automatického skenování, jako například aplikace Messenger od Facebooku," vysvětluje Jourová.

Důvodem, proč přišla komise s touto právní úpravou teď, je zároveň i to, že jde o určitou formu legalizace automatického skenování konverzací. Odpovědi na otázku, zda se jedná o legální praktiku, se do této doby lišily. Již před touto dohodou totiž některé komunikační platformy, jako je například Gmail nebo Outlook.com, možnost prohledávání osobní elektronické pošty využívaly, ale nevěděly, zda tak nečiní v rozporu s evropskými zákony.

Plošné skenování se nyní týká všech komunikačních služeb, které jsou nezávislé na mobilních číslech a které se k němu dobrovolně zavážou. Mezi ně řadíme například e-mailovou komunikaci či služby pro rychlou výměnu zpráv, jako je Messenger či programy typu Skype. 

Vobořil ale vidí zásadní problém v tom, že umělá inteligence, kterou tyto služby využívají, má svoje limity ve vyhodnocování obsahu a může vést k tomu, že lidé budou falešně obviňováni z páchání trestného činu. 

Budeme šmírovat nevinné, zločince nikoli, namítají kritici

"Lidem to může vadit, protože si mohou posílat obsah se sexuálním podtextem a nikomu není příjemné, aby si tyto zprávy někdo četl. Fotky mohou být vyhodnoceny třeba jako dětská pornografie jen kvůli tomu, že dotyčný vypadá mladě," vysvětluje Vobořil.

Kolaja v tomto směru dodává, že skenování konverzací na velkých platformách povede pouze k tomu, že se kriminálníci přesunou tam, kde bude plošné monitorování technicky nemožné. "Ve výsledku tak bude stát šmírovat nevinné, zatímco zločince odposlouchávat nedokáže," říká Kolaja.

Stejného názoru je i Vobořil. Podle něj by nařízení nevyřešilo ani problém, který se vyskytl u sociální sítě Reddit. "Bylo by to řešení jednoho problému, navíc podle mě špatné, ale pořád tu budou aplikace, které mají způsob komunikace, jenž to nebude respektovat," vysvětluje Vobořil.

Kauza Reddit

Na sociální síti Reddit lze celkem snadno narazit na fotografie nahých žen a dívek, pod nimiž je i jejich jméno či alespoň přezdívka a v horším případě i místo, kde bydlí. Uživatelé, zpravidla expartneři dotyčných dívek, si zde snímky sdílejí, zájemci si je mohou i "objednat". Nezřídka se tam objevují i nahé fotografie nezletilých dívek. Oběti o tom většinou ani nevědí, a když už se to dozví, jsou bezmocné.

Nová pravidla ale podle Jourové zahrnují další záruky, které jdou nad rámec současných zákonů. Vyžadují například použití nejmodernějších technologických nástrojů pro rozpoznání pohlavního zneužívání dětí, které co nejméně narušují soukromí. Navíc podle ní údaje ukazují, že velká část podezřelých se opatření nesnaží obcházet. 

"Je zřejmé, že velký počet jednotlivců nadále používá tyto komunikační služby i pro výměnu materiálů pohlavně zneužíváních dětí, i když služby otevřeně prohlašují, že používají automatické skenovací technologie," uvádí Jourová.

Nahlášení pornografie na internetu

Podle údajů zveřejněných americkým Národním centrem pro pohřešované a zneužívané děti (NCMEC) toto centrum dostalo v roce 2020 přibližně 20 milionů zpráv od jediného poskytovatele služeb, Facebooku (včetně Messengeru). Podle reportu o prosazování komunitních standardů Facebooku bylo více než 98% detekcí provedeno Facebookem, než byly nahlášeny uživateli. 

Vobořil by ale raději volil standardní cesty, kterými může policie jít při podezření na zneužívání dětí. "Nemám nic proti tomu, když je někdo podezřelý z šíření dětské pornografie, že mu policie prohledá e-maily. To je samozřejmě legitimní názor. Problém je tady ten, že se to dělá plošně, u každé komunikace," uzavírá Vobořil s tím, že policie má s povolením soudu možnost nasadit odposlechy nebo nahlížet do počítače. 

Orgány Evropské unie ale tímto nařízením cílí převážně na prevenci. Podle Jourové se mnohdy nestačí spoléhat na to, že oběti nebo jejich okolí takové chování nahlásí. "Oběti jsou často příliš mladé na to, aby tomu vůbec rozuměly nebo popsaly, co se děje. Mohou uplynout roky, než si něčeho lze všimnout, pokud vůbec," obhajuje důvody nařízení Jourová. 

Ke konečnému schválení nařízení má dojít mezi 5. a 8. červencem, kdy o něm bude v plénu hlasovat Evropský parlament. Platnost bude mít tři roky. "Samozřejmě to je vysoce politické téma, jelikož se jedná o ochranu dětí. Proto se může stát, že mnoho europoslanců, kteří obecně ochranu soukromí on-line hlasitě podporují, poruší předvolební sliby a budou pro návrh hlasovat. Pro Piráty je ale silné šifrování jednou z priorit a s nařízeními, která by neproporčně narušovala soukromí občanů, nemůžeme souhlasit," uzavírá Kolaja.

Evropská komise se také zavázala, že v budoucnu připraví nové nařízení, které nahradí to stávající. Kdyby došlo k jeho přijetí, bude po poskytovatelích on-line služeb vyžadováno, aby dětskou pornografii povinně odhalovaly. Nyní je to na samotných službách, zda se rozhodnou tohoto práva využít. 

 

Pokud jste v článku zaznamenali chybu nebo překlep, dejte nám, prosím, vědět prostřednictvím kontaktního formuláře. Děkujeme!

Právě se děje

před 1 hodinou

Celosvětové kapacity pro výrobu jaderné energie je zapotřebí do roku 2050 zdvojnásobit, uvedla IEA

Celosvětové kapacity pro výrobu jaderné energie je zapotřebí do roku 2050 zdvojnásobit, aby se podařilo dosáhnout uhlíkové neutrality. Uvedla to Mezinárodní agentura pro energii (IEA) v dnešní zprávě. Růst produkce jaderné energie by měl rovněž pomoci nynějším snahám vlád posílit energetickou bezpečnost snížením závislosti na dovozu fosilních paliv.

"Odchod energetického sektoru od fosilních paliv může být díky jaderné energii rychlejší a bezpečnější," uvedla IEA. "V dnešní globální energetické krizi se snižování závislosti na dovozu fosilních paliv stává prioritou při zajišťování energetické bezpečnosti. Neméně důležitá je klimatická krize," dodala. K dosažení uhlíkové neutrality je podle IEA zapotřebí do roku 2050 zvýšit kapacity pro výrobu jaderné energie na 812 ze současných 413 gigawattů.

Agentura rovněž upozornila, že téměř dvě třetiny jaderných elektráren jsou nyní starší než 30 let a že produkce jaderné energie ve vyspělých ekonomikách by do roku 2030 mohla klesnout o třetinu. Podle šéfa IEA Fatiha Birola nyní nicméně nastaly podmínky k většímu využívání jaderné energie.

"Vzhledem k dnešní globální energetické krizi, prudce rostoucím cenám fosilních paliv, problémům v oblasti energetické bezpečnosti a ambiciózním klimatickým závazkům věřím, že jaderná energie má unikátní příležitost pro návrat," uvedl Birol. "Nová éra pro jadernou energii ale není v žádném případě zaručena. Bude záviset na tom, zda vlády uskuteční kroky k zajištění bezpečnosti a udržitelnosti provozu jaderných elektráren v příštích letech," dodal.

Zdroj: ČTK
před 1 hodinou

Nárůsty nakažených covidem se drží nad tisícovkou, ve středu přibylo 1156 nákaz

Nárůsty nakažených covidem se drží nad tisícovkou, ve středu přibylo 1156 nákaz, asi o 500 víc než před týdnem. Počet hospitalizovaných stoupl na 179.

Zdroj: ČTK
před 1 hodinou

Myšákův Hamilton prohrál ve finále Memorial Cupu s týmem Saint John

Hokejisté celku Hamilton Bulldogs s českým útočníkem Janem Myšákem podlehli ve finále Memorial Cupu pořádajícímu Saint John 3:6. Sea Dogs triumfovali podruhé v boji o šampiona juniorských soutěží Canadian Hockey League (CHL) a navázali na vítězství z roku 2011. Memorial Cup se hrál po dvouleté pauze kvůli pandemii koronaviru poprvé od roku 2019, kdy jej ovládl tým Rouyn-Noranda Huskies s útočníkem Jakubem Laukem.

Dvacetiletý litvínovský odchovanec Myšák, jehož draftoval v roce 2020 ve druhém kole na 48. pozici Montreal, poslal v pondělí Bulldogs do finále vítězným gólem v čase 70:08 proti Shawiniganu (4:3 v prodloužení). Ve finále Myšák v dresu šampiona OHL také skóroval a devět sekund před koncem druhé třetiny snížil na 2:4.

Hráči celku Saint John, kteří v play off QMJHL vypadli už v 1. kole po porážce s Rimouski 2:3 na zápasy, Memorial Cup ovládli s jediným zaváháním. Ze základní skupiny postoupili z prvního místa přímo do finále po výhře nad Hamiltonem 5:3, porážce s Edmonton Oil Kings 3:4 v prodloužení a výhře nad Shawiniganem 5:3.

Stafford Smythe Memorial Trophy pro nejužitečnějšího hráče získal kanadský útočník William Dufour z vítězného týmu, který byl i nejproduktivnějším hráčem a nejlepším střelcem s osmi body a sedmi brankami ze čtyř utkání.

Sea Dogs byli jediným celkem bez českého zastoupení. S Oil Kings vyhrál WHL obránce Šimon Kubíček a s Cataractes ovládl QMJHL bek Martin Haš. Desítka českých vítězů Memorial Cupu se tak nerozšířila.

Zdroj: ČTK
Další zprávy