Facebook ve Francii spustil filtrování falešných zpráv. Plánujete něco podobného i v Česku?
Když jsme toto spustili v USA, řekli jsme, že tento pilot časem rozšíříme i do dalších zemí. Nasloucháme naší komunitě a začali jsme jednat s dalšími globálními partnery. Připravenost Francouzů nám umožňuje začít s testováním tam. Očekáváme, že brzy oznámíme pokusy i v dalších zemích, ale je příliš brzy bavit se o detailech.
Do Česka jste přijela na tiskovou konferenci při příležitosti Dne bezpečnějšího internetu. Máte tu domluveny i schůzky s českými politiky?
Nerada bych hovořila o jiném programu než oficiálním.
Německo si s vaší společností vyjednalo, že Facebook bude rychleji mazat nenávistné komentáře. Jak je zatím Německo spokojené?
To bychom se museli zeptat jich. V Německu jsme začali spolupracovat s vládou a neziskovkami, abychom zajistili, že nahlášený obsah zkontrolujeme do 24 hodin. To je závazek, který v Německu máme, ale je to také závazek, který jsme stvrdili s dalšími technologickými společnostmi v rámci etického kodexu EU pro boj proti nenávistnému obsahu. Skutečně zvládáme obsah během 24 hodin kontrolovat, a když je proti našim pravidlům, tak ho mažeme.
Projevy nenávisti jsou něčím, čemu věnujeme velkou pozornost. Chceme, aby lidé na Facebooku mohli diskutovat, o čem chtějí. Často diskutují o neškodných věcech, zveřejňují fotky svých dětí nebo ranní kávy. Někdy mluví o politice, aktuálním dění. Ať je to cokoli, je pro nás velmi cenné jim dát prostor. Ale chceme jim umožnit diskusi v bezpečném a chráněném prostředí.
Jak v hospodě, tak na síti
Řeší se projevy nenávisti i v jiných evropských zemích?
Uvědomujeme si, že situace v Evropě se v posledních dvou letech poněkud změnila a projevy nenávisti se staly velmi citlivým tématem pro mnoho států. Už dlouhé roky máme pravidla, která míří na nenávistný obsah. Pokrývají různé druhy chování a to, co na Facebooku povolujeme, a co ne.
Gabriella Cseh
Původem maďarská právnička je nyní ředitelkou veřejné politiky Facebooku pro střední a východní Evropu. Zaměřuje se na ochranu dat, soukromí, bezpečnost, lidská práva, svobodu slova a projevy nenávisti na internetu. Než nastoupila do Facebooku, čtyři roky šéfovala maďarskému veřejnoprávnímu rádiu, předtím pracovala v telekomunikacích, diplomacii nebo státní službě.
V posledních letech jsme ta pravidla znovu posuzovali a neustále je zlepšujeme na základě zpětné vazby od států a jednotlivých komunit. Samozřejmě věnujeme pozornost uprchlické situaci v Evropě a s tím související vyostřené diskusi o projevech nenávisti. Dlouhá léta úzce spolupracujeme s nevládními organizacemi napříč Evropou, a pokud jde o nenávistné projevy, v posledních letech máme užší vztahy i s vládami.
Projevy nenávisti jsou společenským problémem. Děje se to na naší platformě, ale i offline. Co vidíte a slyšíte na Facebooku, je jen odrazem toho, co se děje v reálném životě. Když jdete do hospody, slyšíte spoustu věcí, se kterými nesouhlasíte. Nevoláte okamžitě barmana, aby někoho vyvedl jen proto, že říká něco nechutného nebo urážlivého. Když jdete na Facebook, je to to samé.
Není to úplně to samé. Co je řečeno v hospodě, to tam i zůstane. Ale příspěvky na Facebooku mají mnohem širší publikum.
Je to viditelnější. Kvůli sdílení, komentování. To je důležitá věc, kterou se dostáváme k takzvané counter speech (vyjádření nesouhlasu v reakci na projevy nenávisti, pozn. red.). O té bych ráda pohovořila trochu více. Uvědomujeme si, že na Facebooku projevy nenávisti jsou. Máme svá pravidla a spolupracujeme s místními komunitami a neziskovkami, abychom identifikovali, co je, pokud jde o projevy nenávisti, pro ně největším problémem. Podle toho svá pravidla upravujeme.
V posledních deseti letech jsme obsah mazali. Když nám uživatelé něco nahlásí a my zjistíme, že je to proti našim pravidlům, tak to odstraníme. Pak jsme se ale začali sami sebe ptát a následně jsme provedli i výzkum, zda odstraňování obsahu skutečně pomáhá. Nebo je efektivnější counter speech? Výzkum jsme si zadali u britského think-tanku Demos, abychom měli nezávislá data. Ten výzkum ukázal, že na Facebooku je skutečně více nenávistných projevů, ale viditelnost counter speech a odezva na ni může být mnohem silnější. Lidé na Facebooku rádi reagují na obsah, který je pozitivní. Nenávistné projevy jsou negativní. Je jich tam hodně, ale lidé na ně tolik nereagují.
Mazat nepřestaneme
Kterým směrem se tedy hodláte vydat? Budete více mazat, nebo podporovat pozitivní obsah?
Myslíme si, že duální přístup je nejlepší. Je jasné, že nepřestaneme odstraňovat obsah z Facebooku. Ale je také jasné, že counter speech může být velmi efektivní. Nemůžeme to být my, kdo bude tento obsah tvořit. V tomto kontextu jsme spíš autoritou. Náš výzkum ukazuje, že když důvěryhodní mluvčí používají pozitivní jazyk, pokud možno vtipný, tak jejich obsah může být mnohem efektivnější než nenávistné příspěvky. Mluvčími mohou být nevládní organizace, celebrity, lidé reprezentující komunitu. Obsah je na Facebooku úspěšný, když má odezvu. To znamená, že ho lidé sdílejí, komentují, lajkují. Dostanete se tak k mnohem více uživatelům. Nyní jsme došli do druhé fáze výzkumu a řešíme, jak pomoci neziskovkám či aktivistům vytvářet úspěšný obsah. Spolupracujeme s Institutem strategického dialogu, který v tomto směru nabízí školení. A my umožňujeme neziskovkám toto školení absolvovat.
Jaké dovednosti tedy musí člověk mít, aby vytvářel úspěšný obsah?
Musíte být kreativní a mít základní znalost marketingu a toho, jak využít Facebook k šíření svých myšlenek. Neziskovky se většinou soustředí na svou hlavní činnost, jako je třeba pomoc obětem domácího násilí. Často nemají silný tým, který by se zabýval PR, komunikací a kampaněmi. S tím jim chceme trochu pomoci.
Bude pak Facebook tento pozitivní obsah více propagovat a šířit?
Rádi pomůžeme kampaně propagovat. Takže ano, i toto je součástí té spolupráce.
Pokud jde o mazání komentářů, hranice mezi řekněme kontrolou a cenzurou je velmi tenká. Stěžují si lidé často na to, že je cenzurujete?
Rozhodně. Musíme si být vědomi toho, že pokaždé když odstraníme nějaký obsah z Facebooku, tak omezujeme něčí svobodu se vyjádřit. Facebook je velkým podporovatelem svobody projevu. Chceme, aby naši uživatelé byli slyšet a mohli sdílet svůj názor. Často to schytáváme z obou stran. Někdo říká, že nemažeme dostatečně, jiní si stěžují, že je Facebook cenzuruje. Musíme balancovat na tenké hranici.
Národnost správců nehraje roli
Jak moc se mění vaše pravidla pro odstraňování obsahu?
Základní pravidla v podstatě zůstávají stejná. Ale učíme se mnoho, obzvlášť díky spolupráci s neziskovkami a dalšími místními představiteli. Samozřejmě se naše politika podle toho upravuje. Nejde jen o pravidla samotná, pro nás je velmi důležité, aby byla prosaditelná. Máme tým, který rozhoduje o nahlášeném obsahu, a pro ně je velice důležité, aby pravidla nevypadala jen dobře na papíře, ale aby byla v praxi prosaditelná. Mnoho úsilí věnujeme tréninku těchto lidí, jde o tisíce zaměstnanců po celém světě, kteří podněty hodnotí. Je důležité, aby rozuměli kontextu i úpravám pravidel.
Jsou mezi těmito lidmi i Češi?
Ano.
Kolik jich je?
Nevím, kolik Čechů pracuje v tomto týmu. Dostáváme tuto otázku často. Národnost správců není tak důležitá. Obsah může porušovat některé z našich pravidel. Například ohledně nahoty, spamů, násilí, ubližování a tak dále. Většina hlášení nepotřebuje speciální místní znalost. Když nějaké hlášení vyžaduje znalost kontextu a jazyka, tak zajistíme, aby se dostalo k někomu, kdo tuto znalost má. Když máte nahou fotku, abyste rozhodli, zda je třeba ji smazat, nemusíte být zrovna Čech nebo Maďar.
Chyby se stávají
Často se stává, že někdo zveřejní obrázek umění, na kterém je nahota. A Facebook jej smaže poměrně rychle, i když jde třeba o sochu. Ale nenávistný komentář tam velmi často zůstane. Jak je to možné?
Máme velmi přísná pravidla, pokud jde o nahotu. Někdy kvůli tomu můžeme být považováni za příliš konzervativní. Pro nás je však velmi důležité, aby naše platforma byla bezpečná pro kohokoli nad 13 let. Ale pokud se nepletu, u umění už jsme trochu uvolnili pravidla.
K druhé části vaší otázky – ano, někdy je docela těžké rozpoznat projev nenávisti. Je těžké rozlišovat jemné rozdíly, protože jazyk má mnoho vrstev. Při práci s nenávistným obsahem je rozhodování, co odstranit a co ponechat, jednou z nesložitějších věcí, kterou náš tým řeší. Stává se, že uděláme chybu. Ale lze se proti našemu rozhodnutí odvolat. Čas od času dostávám e-maily, že jsme odstranili něco, co jsme neměli, nebo naopak. Nevyhýbáme se tomu, vracíme se k tomu a posuzujeme to znovu. Je to velmi těžký úkol.
Jaká jsou tedy ta kritéria?
Naše standardy jsou politicky neutrální a umožňují velice širokou škálu politických vyjádření, včetně názorů, které mohou někteří lidé považovat za urážlivé. Zakázány jsou projevy nenávisti, což zahrnuje obsah, který přímo útočí na osoby na základě rasy, etnicity, národnosti, náboženské příslušnosti, sexuální orientace, pohlaví, genderové identity a vážných postižení nebo chorob.
Potřebujeme znát kontext
Tyto standardy jsou možná až příliš obecné.
Tento dokument vznikl před nějakými deseti lety. Před dvěma lety jsme se rozhodli, že je chceme učinit srozumitelnějšími a přístupnějšími pro naše uživatele. Je důležité, aby věděli, co na Facebooku mohou dělat a co ne. Pokusili jsme se použít jazyk, který je srozumitelný pro každého. Máme 1,7 miliardy uživatelů po celém světě, 4,6 milionu uživatelů v České republice. Globálně naši uživatelé pocházejí z nejrůznějších kultur, věkových skupin, prostředí, mluví různými jazyky. Musíme si být jistí, že když si kdokoli přečte pravidla, budou mu jasná. Takže se mohou zdát příliš obecná. Ale naši lidé dostávají velmi detailní pokyny, jak naši politiku prosazovat.
A v případech, kdy si nejste jistí, zda příspěvek odstranit, tedy kontaktujete svého partnera v dané zemi?
Když máme pocit, že nám chybí kontext. Je to podobné jako se šikanou. Může tu být neškodné slovo, které když uslyším já nebo vy, nic pro nás neznamená. Ale pro někoho, kdo žije v dané komunitě, to je ostré slovo. Možná se v posledních měsících stalo něco, o čem jsme neslyšeli. Možná je tam politické napětí. Možná nám unikl symbol nenávistné skupiny. Možná proti sobě bojují dvě skupiny a k vzájemným útokům používají dříve nevinné slovo. Když se dozvíme kontext, pomáhá nám to.
Plánujete podrobněji vysvětlovat, proč jste odstranili konkrétní příspěvek, zatímco jiný jste ponechali? Přijde mi, že právě z toho jsou uživatelé často zmatení.
To je velmi legitimní otázka, ale je extrémně složité to provést. A tím se vracíme k tomu, že musíme mít jasnou politiku a při jejím prosazování se držet daných principů. Jsme technickou platformou, musíme hledat cestu, jak se vypořádat s nahlášeným obsahem a jak dát zpětnou vazbu tomu, kdo ho nahlásil. Před lety jsme slýchali často, že někdo něco nahlásil, ale neví, jestli s tím Facebook něco udělal, nebo to ignoroval. Proto jsme vyvinuli nástroj, který uživatelům umožňuje se po nahlášení obsahu na svém účtu podívat, co s tím Facebook udělal.
Víme, že bychom mohli být v naší odpovědi trochu podrobnější. Upřímně, ještě jsme na to nepřišli. Nevíme, jak dát uživatelům smysluplnou zpětnou vazbu v časově efektivním rámci. Umíte si představit, že s miliardami příspěvků, které se denně sdílí, dostáváme miliony hlášení za týden. Potřebujeme najít cestu, která je dost rychlá a zároveň umožňuje dát uživatelům podrobnější odpověď. Pracujeme na lepším způsobu.
Reagujete pouze na hlášení od uživatelů, nebo závadný obsah sami aktivně vyhledáváte?
Pokud jde o nenávistné projevy, reagujeme na hlášení od uživatelů.
Setkáváte se s tím, že lidé hromadně nahlásí například někoho, kdo publikuje protimuslimské příspěvky, vy obsah odstraníte, zablokujete mu účet, a jeho přátelé pak z pomsty nahlašují třeba lidskoprávního aktivistu?
Nemusíte ani chodit tak daleko. Stačí fotbalový zápas. Když se pak fanoušci vítězného týmu na Facebooku radují, můžeme si být jistí, že dostaneme hodně hlášení. Jejich profily se například budou hojně nahlašovat jako falešné. To je standardní způsob, jak vyjádřit svůj vztek.
Jak se vyrovnáváte s tou dvojrolí globálního byznysu a společenské platformy? Přijde mi, že obě role jdou často proti sobě.
To si nemyslím. Pro nás je klíčovou prioritou umožnit lidem propojit se se svými přáteli a sdílet s nimi, co chtějí. Lidé často sdílejí na Facebooku své nejdůležitější životní události. Naši platformu budou používat, jen pokud se na ní budou cítit bezpečně. Když budou mít pocit, že nám nemohou věřit, tak Facebook nebudou používat. Naším obchodním zájmem je udržet jejich pocit bezpečí a naši důvěryhodnost.
