Dok se na kanalima na YouTubeu i društvenim mrežama prikazivao video krvavog pokolja u Novom Zelandu, Neal Mohan u San Brunu u Kaliforniji shvatio je kako će njegova kompanija i ovog puta biti pregažena. Mohan, šef YouTube odjela za proizvode, okupio je svoj ratni tim, grupu starijih voditelja koje interno nazivaju "zapovjednici incidenata" koji uskaču u krizne situacije, posebno u one kada se snimke ubojstava ili masovnih pucnjava objave na internetu.
Radili su cijelu noć, pokušavali identificirati i ukloniti desetke tisuća video materijala, a među njima i originalne snimke stravičnih ubojstava. No posao im nije bio ni najmanje lak, čim bi jedan uklonili, drugi bi se odmah pojavio, i tako iz sekunde u sekundu.
U trenutku kada njihovi pokušaji više nisu imali smisla, primijenili su korake bez presedana, a među njima i privremeno onemogućili nekoliko mogućnosti pretraživanja, i izbacili opcije ocjenjivanja s ciljem ubrzanja uklanjanja videa označenih automatiziranim sistemima. No mnogi novi materijali koji su se objavljivali nadmudrili su i te njihove sisteme, piše The Washington Post.
"Ova tragedija čini se bila je kreirana da bi završila na digitalnim medijima. Napredovali smo no to ne znači da imamo manje posla, a ovaj incident nam je pokazao, posebno u slučaju ovakvih videa, da možemo i moramo napraviti još i više", naglasio je.
Prijenos materijala bio je puno brži i puno većeg obima od prijašnjih masovnih ubojstava, objašnjava Mohan. Video iz pozicije žrtvi sa koncerta u Las Vegasu u listopadu 2017. i one iz sinagoge u Pittsburghu proširio se webom, no u ni jednom slučaju nije bilo riječ o live streamu kojeg je snimao počinitelj. Brenton Tarrant imao je kameru na tijelu s kojom je sve snimao dok je pucao po ljudima.
Svaki takav incident otkriva i manu u online sustavima koja omogućava mržnji i teorijama zavjera da i dalje cvatu na internetu. Gotovo svemogući YouTube ipak nije mogao zaustaviti poplavu korisnika koji su dijelili te video materijale.
"Svaki put kada se dogodi ovakva tragedija naučimo nešto novo, a u ovom slučaju bila je riječ o količini takvog materijala. Žao mi je što se toga nismo uhvatili puno ranije", naglasio je.
Kompanija je dobila i niz kritika zbog ruskog uplitanja u američke izbore 2016. godine, pa je godinu dana marljivo radila na razvoju detekcije i uklanjanja problematičnih videa. Zaposlili su tisuće moderatora i izgradili novi softver koji korisnike puno brže može uputiti na provjerljive izvore vijesti tijekom kriznih stanja. No njihova borba sa situacijom u Novom Zelandu pokazala je niz limita kompjuteriziranog sistema i operacija koje su razvili kako bi se mogli nositi sa golemom količinom sadržaja na svojim kanalima.
U ovom posljednjem slučaju oni koji su bili odlučni da pobjede u ratu sa njihovim alatima za detekciju, zabilježili su pobjedu, na užas ljudi diljem svijeta. YouTube nije bio osamljen u toj svojoj borbi za kontrolom tijekom pucnjave. Brzo dijeljenje tih videa kao i manifesta na 74 stranice, kojeg je navodno napisao počinitelj, čini se bilo je pažljivo planirano da dođe do čim više ljudi.
Napad na dvije džamije javno se prenosio na Facebooku i gotovo trenutačno je podijeljen na ostalim sajtovima, najviše na YouTubeu. Počinitelj je pokušao dobiti podršku ostalih koji objavljuju na YouTubeu, posebno PewDiePiea koji je odmah odbio njegov zahtjev.
Oni koji su ubacivali videa stavili su na njih razne oznake i vodene žigove ili izmijenili njihovu veličinu kako bi spriječili uklanjanje. Neki su čak te ljude u videu izmijenili u životinje, da djeluje poput video igre. Dosta dugo taj se video mogao naći vrlo jednostavno, samo ako bi upisali Novi Zeland u tražilicu.
Facebook je uklonio oko 1,5 milijuna video materijala tijekom 24 sata nakon napada, dok je 1,2 milijuna blokirano u trenutku prenošenja. Reddit, Twitter i ostale platforme također su se borile sa uklanjanjem videa, a YouTube nije htio reći koliko su video materijala uklonili.
YouTube je bio na meti kritika protekle dvije godine zbog širenja ruskih dezinformacija, nasilnog ekstremizma, teorija zavjera i neprimjerenog sadržaja u koji su uključena djeca. Prošlog mjeseca izbio je skandal oko pedofila koji koriste YouTube sistem za komentiranje i naglašavanje takvih snimka djece. Pedijatar sa Floride otkrio je savjete kako počiniti samoubojstvo koji se nalaze unutar dječjih video materijala na YouTubeu i unutar aplikacija koje se fokusiraju na djecu, poput YouTube Kids.
Profesor Pedro Domingos sa Sveučilišta Washington kaže kako umjetna inteligencija nije toliko sofisticirana kako mnogi misle. Mnoge kompanije prenaglašavaju svoje mogućnosti da bi dobile poslove. Zapravo čak i najnapredniji sistemi mogu se zavarati na načine koje bi ljudi mogli lako otkriti.
"Na neki način oni su sputani u trenucima kada se nešto poput ovoga dogodi jer bi morali reći da je njihov AI stvarno pogrešiv, da ne mogu u potpunosti odraditi posao", naglašava.
Ostali stručnjaci vjeruju kako se ovaj sve veći broj objava zastrašujućih videa ne može u potpunosti zaustaviti budući da ljudi mogu objavljivati sadržaj bez prijašnjeg odobrenja. Čak i ako kompanije zaposle desetke tisuća moderatora, njihove odluke sklone su subjektivnoj pogrešci, a umjetna inteligencija nikada neće biti toliko osjetljiva da će moći donijeti delikatne odluke koje su potrebne u mnogim slučajevima.
Bivši inženjer na YouTubeu Guillaume Chaslot koji je kompaniju napustio 2013. godine i osnovao svoju AlgoTransparency, kaže kako kompanija nije pokrenula pravu inicijativu kako bi dubinski izmijenila stvari, i kako to neće učiniti bez velikog pritiska javnosti.
"Dok god korisnici koriste YouTube zapravo nemaju prave inicijative da naprave velike promjene. Rješavaju probleme koji se pojavljuj i kad se pojavljuju, a stalno se vraćaju", objašnjava.
Raste i politički pritisak, posebno u SAD-u, pa tako i demokrati i republikanci pozivaju na agresivniji pristup kontroli posebno u širenju ekstremističkih stavova, mržnje, nasilja.
YouTube se s ovim problemom ozbiljnije uhvatio krajem 2017. godine i početkom 2018. U tom vrijeme Mohan je angažirao Jennifer O’Connor da mu pomogne u reorganizaciji njihovog pristupa sigurnosti i izgradi priručnik za krizna stanja. Tako je i nastao odjel za krizna stanja koji pregledavaju što se događa ne samo na YouTubeu već i na ostalim popularnim sajtovima, poput Reddita.
Zaposlili su 10.000 moderatora sadržaja koji pregledavaju video materijale.
U tišini razvijaju alate, softver nazvan "breaking news shelf" i "top news shelf", koji se pokreće u trenutku nekog velikog incidenta i kada ljudi krenu na YouTube u potrazi za informacijama, tražili ih oni putem pretraživača ili preko stranice. Breaking news shelf koristi signale sa Google Newsa i ostalih izvora kako bi pokazao sadržaj objavljen na provjerljivim stranicama, kao što su medijske organizacije, a ponekada i zaobiđu sadržaj kojeg korisnici ubacuju. Izgradili su i "developing news card" koji se pojavljuje na ekranu kako bi ljudima dao informacije oko krize i prije nego oni krenu u potragu. Nedavno su rekli i kako su izmijenili algoritme preporuke.
Taj je softver radio u slučaju pucnjave u Parklandu prije godine dana, no u danima nakon, preživjeli su trpjeli online zlostavljanje. Na YouTubeu posebno su postale popularne snimke koje su tvrdile kako žrtve nisu prave žrtve. Iako su protokoli za takvo ponašanje doneseni još sredinom 2017. godine, moderatori se i dalje trude i uče kako ih primjenjivati, pa je naravno i dolazilo do nekih pogrešaka.
U četvrtak uvečer kada se pojavio prvi video Mohan kaže kako je "breaking news shelf" počela djelovati kao i ostali protokoli. Bazične pretrage usmjerile su korisnike na provjerljive izvore, a automatska pretraga nije nudila neprimjerene riječi. Inženjeri su odmah označili videa kako bi bila prepoznatljiva pa i njegove kopije i izmjene, da ih se može automatski izmijeniti. Tehnike umanjivanja često se primjenjuju i u slučajevima kršenja autorskih prava ili kako bi se spriječilo ubacivanje videa sa dječjom pornografijom.
No u ovom slučaju sistem se nije mogao nositi sa desecima tisuća mutacija jer sustav ne može prepoznati materijale do teme mjere izmijenjene.
"Kao i u bilo kojem slučaju razvoja softvera tako se i naša tehnologija razvija, to je proces koji traje", naglašava Mohan.
Neki mediji nisu htjeli objaviti ime počinitelja, pa su korisnici upisivali svakakve riječi kako bi opisali svoje postove, i tako zapravo postavili izazov za njihove sisteme detekcije. Te večeri Mohan se zabrinuo kako se kompanija ne bavi tim problemom dovoljno brzo i tada je donio neobičnu odluku da suspendira temeljni dio tih procesa - ljudske moderatore.
Tijekom normalnog procesa problematični sadržaj završava kod ljudskih moderatora, koji pregledaju materijal i donose odluku. No taj sistem nije dovoljno radio tijekom krize, pa su ga odlučili u potpunosti ukloniti i stvari prepustiti u ruke softvera koji je detektirao nasilne dijelove videa. I tako je usporio cijeli proces blokiranja. U tom automatskom brisanju obrisani su i mnogi materijali koji nisu bili problematični.
Mohan naglašava kako se oni čiji su materijali tako obrisani, pogrešno, mogu se žaliti kompaniji. Do sredine petka Mohan i dalje nije bio zadovoljan učinjenim i rezultatima. Donio je novu odluku i onemogućio alat koji omogućava ljudi pretragu po "recent uploads".
Korištenje tih alata i dalje je onemogućeno, a kako kažu iz YouTubea tako će ostati sve dok kriza ne splasne, no svjesni su kako nije riječ o konačnom rješenju.
