Times magazin dobio je u ruke preko 1.400 stranica i slajdova koje Facebook koristi kako bi "podučio" moderatore kako da unište govor mržnje na bespućima društvene mreže, piše The New York Times.
Kompaniju, i njezin temeljni proizvod, kritiziraju radi potkopavanja demokracije i širenja govora mržnje (i lažnih vijesti) diljem svijeta. Sve bi to bilo mudro i logično kada, kako pokazuju dokumenti, njihove upute moderatorima nisu počesto krive, neuke, netočne i kulturološki neshvatljive ili pak prepune predrasuda te nimalo objektivne.
Također, većina se moderatora koristi Google Translateom jer nemaju zaposlenika koji govore čitav niz jezika koji im je prijeko potreban.
Kompanija, koja u pola godine "okrene" profit od 10 milijardi dolara, nakon silnih problema u protekle tri godine mora pokazati da je posve ozbiljna u tome da ukloni opasni sadržaj, a da uz to privuče još korisnika i pokuša ih dulje zadržati na stranici.
Kako monitorirati milijarde postova po danu napisanih na preko 100 različitih jezika. Čitava mreža zaposlenika koristi relativno (bes)korisne PowerPoint tablice i prezentacije kako bi "shvatili" što je ok, a što nikako nije u redu.
Svaki drugi tjedan, jedan dan u tjednu tijekom doručka slažu se nova pravila koja se onda šalju 7.500 moderatora diljem svijeta.
New York Times piše kako su pravila ekstenzivna, i kompaniju čine moćnim arbitrom globalne slobode govora, moćnijim no što kompanija sama po sebi želi priznati - u nekim zemljama "guše" vrlo blag i mainstream govor, dok u nekima dozvoljavaju čisti govor mržnje (ponajprije jer ga ne znaju točno prepoznati).
Možda najbolji primjer naprosto netočnih uputa dolazi s ovih prostora. Dobili su, naime, informacije kako je bosanski ratni zločinac Ratko Mladić i dalje u bijegu, iako je uhićen 2011. godine. Na jednom slajdu zovu ga imenom "Rodney Young".
"Facebook je sada, po tom pitanju, čista hegemonija i monopolizam da je postao sila za sebe. Niti jedan entitet, posebno onaj koji radi za profit, ne bi smio imati takvu moć nad javnom debatom, slobodom govora i pravilima", kaže Jasmin Mujanović, stručnjak za Balkan.
Primjera ima čitav niz, vezanih uz cijeli svijet.
Jedan je zaposlenik, anonimno, New York Timesu rekao kako su većinu vremena zbunjeni i "bačeni u vatru", a da po postu imaju nekoliko sekundi (oko osam) da odluče što s njime, često nakon korištenja Google Translatea. Upravo se zato na mjestima moderatora rijetko tko zadrži dulje od par mjeseci. Neki su od zaposlenika mladi odvjetnici ili inženjeri, dok često ima i vrlo neobrazovane radne snage.
"Osjećate se kao da ste nekoga ubili jer niste reagirali kako spada", kaže anonimni zaposlenik koji objašnjava kako se primjerice riječ "jihad" može biti korištena u više različitih konteksta - znači li to da je onda uvijek zabranjena?
"Nije na nama da ispravljamo što ljudi misle i govore, ali želimo da se poštuju standardi naše zajednice na platformi, a to je kombinacija slobode govora i sigurnosti", kaže inžinjerka Sara Su.
Upute za Facebook moderatore izgledaju, piše The New York Times, kao priručnik za globalnu politiku. Deseci neorganiziranih PowerPoint prezentacija i Excela ozbiljnih naslova poput "Simboli mržnje zapadnog Balkana" ili "Implementacijski standardi vezani uz nasilje".
Što Facebook želi postići?
Kada je ideja "puna mržnje" ili "trač opasan", žele napraviti kalupe, ili Prokrustov krevet, gdje će se svemu suditi na isti način i po istim pravilima. Žele da moderatori slijepo slijede pravila, u nadi da će to osigurati objektivnost i konzistentnost.
Facebook je potvrdio da su dokumenti koji su "procurili" zaista njihovo sredstvo za rad, ali i da su se od objave u Timesu dodatno "proradili", kao i da služe samo za trening, dok moderatori pak tvrde kako im je to osnovno sredstvo za rad.
Čak su i "emojiji" podijeljeni na "prihvatljive", "neprihvatljive", "nasilne", "seksualizirane" itd...
Kada se smije spominjati riječi poput "jihad", "drug" ili "brat"?
Iako Facebook sve želi utrpati u iste ladice, činjenica je da je zapravo često riječ o bezbroj nijansi, cinizmu, sarkazmu, metaforama i drugim formama izražavanja.
Neka od pravila se s lokalnom politikom (posebno ne-zapadnjačkom) obračunava vrlo nespretno.
U SAD-u su zabranjeni tzv. "Proud Boys", radikalno desna pro-Trump skupina. Kompanija je također blokirala reklamu o karavani migranata iz Centralne Amerike, koju je producirao Trumpov politički tabor.
Ovog ljeta prvi je puta dozvoljeno nešto do sada nezamislivo - hvaljenje Talibana, ali samo ako ta izjava uključuje odluku da se priključe prekidu borbi. U drugim mailovima dobili su naredbu da "ganjaju" i uklanjaju trač kako je izraelski vojnik ubio palestinskog liječnika.
Prije izbora u Pakistanu, Facebook je objavio dokument od 40 stranica koji opisuje "političke stranke, trendove i pravila".
I tu ima pokazatelja koliko je "sve relativno". Vjerska stranka Jamiat Ulema-e-Islam označena je kao nešto na što se mora paziti, dok je druga vjerska stranka, Jamaat-e-Islami opisana kao posve benigna.
I u Indiji je nekoliko akademika ukazalo na prosto krive činjenice, posebno kada je riječ o definiranju blasfemije koja je u Indiji zabranjena jedino i samo ako "navodi na nasilje", inače nije kažnjivi čin, dok Facebookov pravilnik tvrdi drugačije.
Moderatori su upućeni i da paze na termin "Sloboda Kašmiru" koji ni na koji način nije ilegalan. S obzirom da nema internacionalnih tijela koja donose pravilnike Facebook se snalazi sam kako zna i umije, paralelno rastući u najvećeg svjetskog političkog regulatora.
"Ponekada stvari eksplodiraju vrlo brzo, i moramo se snaći gotovo iste sekunde, a nemamo vremena za konzultacije s U.N.-om", kaže anonimni izvor iz Facebooka.
Mujanović kaže da su s Balkanom posebno "slabi" i zapeli u vremenu devedesetih, te da nema šanse da razumiju kakve se frakcije tu stvaraju te što je, zapravo, "govor mržnje".
Jedan od najvažnijih dokumenata je vjerojatno Excel tablica koja imenuje svaku skupinu, stranku, pojedinca i simbol kojeg su oni, interno, označili kao nešto ili nekoga tko opetovano širi mržnju (te je time persona non grata na Facebooku). Svako hvaljenje, podrška ili reprezentacija tih ljudi i ideja mora biti uklonjena.
Anton Shekhovtsov, stručnjak za radikalne grupe kaže kako je "zbunjen metodologijom". Facebook brani čitavu vojsku grupa iz Amerike i Velike Britanije, a minimalno grupa iz ne baš pitomih krajeva Rusije ili Ukrajine.
Čini se da "bolje pokrivaju" teren gdje postoji otpor od strane države i želja za nadzorom. Zabranjene su i neke stranke, poput grčke "Zlatne zore", koje su jednom nogom u parlamentima i mainstreamu.
"To je jako problematično jer je to posao za sudove", kaže Jonas Kaiser, stručnjak za online ekstremizam sa Harvarda.
S jedne strane, kaže, posebno u manje razvijenim zemljama, time se, de facto, u potpunosti guši politička debata i javna rasprava, koraci prema demokraciji, koliko god ona bila krhka.
Zabranjeno je bilo kakvo spominjanje Tamilskih tigrova, ali ne i državnih snaga koje su, itekako, počinile zvjerstva.
Jedna od niza prepreka i problema u suzbijanju govora mržnje je i u samom tkivu Facebooka. Platforma se uzdaje u algoritam koji promovira najprovokativniji sadržaj, ponekada upravo onakav kakav, kaže kompanija, želi ukloniti. Ako se taj algoritam ukloni, Facebook gubi svoju oštrinu i brzinu ekspanzije, a to se prevodi u profit i rast.
Richard Allan, jedan od potpredsjednika kompanije koji je ujedno u britanskom Parlamentu kaže kako bi bolji model bio "nekakav partnerski aranžman s vladama kako bi se definirali standardi, iako naravno, onda je problem u tome što nije svaka vlada ista".
Neki stručnjaci za terorizam kažu da treba više slobode dati samim moderatorima (koji moraju biti obrazovani lokalci koji pričaju jezik i razumiju nijanse kulture i politike), a manje "odijelima" iz Kalifornije.
No, definitivne formule nema. Sve su to polovični, i često nepošteni, popravci nakon što je šteta već napravljena, no nitko još nije smislio bolju alternativu.
