Má fotka zbitého dítěte na Facebooku zůstat? Záleží na kontextu, říkají uniklé dokumenty

Podcasty, rozhovory, příběhy Další podcasty, rozhovory a příběhy Facebook

Předminulý týden The Guardian zveřejnil balík dokumentů částečně odhalujících pravidla, podle kterých se řídí moderátoři Facebooku při odstraňování škodlivého obsahu. Vůbec první detailnější pohled na vnitřní předpisy ukazuje jak na nejistotu Facebooku samotného, tak na obecnější problémy, kterým čím dál rozšířenější internetové platformy při spravování obsahu čelí.

Facebook má s nevhodným obsahem problém už dlouho. Občas (třeba v případě ikonické válečné fotografie dívky s napalmem) smaže důležité materiály, jindy nechá svoje uživatele streamovat vraždy. Až donedávna přitom o pravidlech, podle kterých Facebook k těmto rozhodnutím došel, nikdo moc nevěděl. Teď se ale díky Guardianu z prezentací pro moderátory obsahu dozvídáme, že komentář „někdo toho Trumpa už zastřelte“ je nepřijatelný, ale věta „doufám, že tě někdo zabije“ je v pořádku. Fotografie a videa, které zobrazují násilí na zvířatech nebo dětech, jsou povolené, pokud je nedoprovází oslavný nebo sadistický titulek. Dokumenty také například velmi detailně vyjmenovávají nepřijatelné způsoby zobrazení sexuality a nahoty a poskytují návod pro posuzování obsahu týkajícího se teroristů.

Facebook se nachází v nepříjemné pozici. Kvůli obratu z reklamy chce co nejvíc upoutat pozornost svých uživatelů, zároveň ale musí svůj obsah spravovat tak, aby byli ochotní se vracet. Velkým problémem je jeho dosah. Stanovit jednotná a funkční pravidla pro síť, kterou používá přes 2 miliardy lidí, je kvůli rozmanitosti kulturních kontextů skoro nemožné. Mark Zuckerberg ve svém nedávném manifestu nastínil možnost zavedení regionálních filtrů, nastavených podle hodnot dané kultury. Pokyny ve výše zmíněných dokumentech alespoň berou ohled na zákonné úpravy v konkrétních zemích. Týká se to především popírání holocaustu, které je třeba v Německu nebo Turecku nezákonné.

Zajímavější než obsah samotných dokumentů je situace, ve které byly zveřejněny. Facebooku se podařilo skrz naskrz proplést našimi životy, patří k jednomu z hlavních kanálů, kterými dnes přijímáme mediální obsah – má tedy zásadní dopad na formování veřejné diskuze. A i když se Mark Zuckerberg bude tvářit jakoby nic, Facebook mediální společností je. Je proto lehce alarmující, že se k nám informace o pravidlech jeho fungování musí dostat až skrze uniklé materiály. V reakci na nedávnou kritiku Zuckerberg slíbil, že tým tří tisíc moderátorů rozšíří o dalších patnáct set. Stranou by ale neměla zůstat ani otázka, za jakých podmínek tito lidé pracují. Reportáž Guardianu popisuje emocionální dopady, které na moderátory-kontraktory sledování násilného a pornografického obsahu má. Tyto okolnosti přitom kvalitu jimi odváděné práce bezprostředně ovlivňují – podle odhadů mají na posouzení jednoho příspěvků zhruba 10 vteřin.

Facebook

Spolu s příslibem svobodného prostoru pro diskuzi a vyjadřování ze sebe sociální média udělala prostor, ve kterém se často daří šikaně, obtěžování nebo poplašným zprávám. Vzhledem k obrovskému vlivu Twitteru, Facebooku a dalších bychom měli po jejich tvůrcích chtít, aby převzali za správu svého prostoru odpovědnost a hráli s námi otevřenou hru. Jak totiž píše technologický magazín The Verge: „Kdyby byl Facebook státem, měl by nejvíc obyvatel na světě.“