Sveučilište u Cambridgeu objavilo je kako pokrenulo je novu internetsku stranicu koja prati svakodnevno promjenjive troškove kupnje vojske botova na više od 500 društvenih mreža i komercijalnih platformi - od TikToka do Amazona i Spotifyja - u svim zemljama svijeta.
Po prvi put, Cambridge Online Trust and Safety Index (COTSI) omogućuje globalnoj zajednici praćenje tržišnih podataka u stvarnom vremenu za tzv. "ekonomiju internetske manipulacije" - SIM farme koje masovno proizvode lažne račune za prevarante i botove na društvenim mrežama.
Koliko košta stvaranje vojske botova?
Ta tržišta otvoreno prodaju SMS verifikacije za lažne profile na stotinama platformi, omogućujući "neautentične aktivnosti" koje se kreću od umjetnog povećavanja metrike popularnosti i provokativnih (rage-bait) računa do koordiniranih kampanja političkog i društvenog utjecaja.
Nova analiza temeljena na dvanaest mjeseci COTSI podataka, objavljena u časopisu Science, pokazuje da je verifikacija lažnih računa za korištenje u SAD-u i Ujedinjenom Kraljevstvu gotovo jednako jeftina kao u Rusiji, dok su Japan i Australija znatno skuplji zbog cijena SIM kartica i obveze identifikacije fotografijom.
Prosječna cijena SMS verifikacije za internetsku platformu tijekom jednogodišnjeg razdoblja istraživanja koje je trajalo do srpnja 2025. iznosila je 4,93 USD u Japanu i 3,24 USD u Australiji, dok je bila tek djelić toga u SAD-u (0,26 USD), Ujedinjenom Kraljevstvu (0,10 USD) i Rusiji (0,08 USD).
Istraživanje također pokazuje da cijene lažnih računa na Telegramu i WhatsAppu rastu u zemljama uoči nacionalnih izbora, što upućuje na porast potražnje uzrokovan tzv. "operacijama utjecaja".
Tim COTSI-ja, smješten u Cambridgeovom Laboratoriju za društveno donošenje odluka, uključuje stručnjake za dezinformacije i kriptovalute. Istraživači tvrde da bi regulacija SIM kartica mogla obeshrabriti internetsku manipulaciju te da se njihov alat može koristiti za testiranje javnih politika diljem svijeta.
Predlažu i da platforme uvedu oznake koje prikazuju zemlju podrijetla računa radi veće transparentnosti, kao što je nedavno učinio X, no upozoravaju da se takve mjere mogu zaobići - što je usluga koju nude mnogi trgovci obuhvaćeni istraživanjem.
Za registraciju novog računa internetske platforme zahtijevaju SMS (Short Message Service) verifikaciju - tekstualnu poruku s kodom poslanim na važeći telefonski broj - kako bi se potvrdilo da račun postavlja stvarna osoba.
Tijekom posljednjeg desetljeća razvio se netransparentan globalni tržišni sustav s infrastrukturom koja zaobilazi ovaj sigurnosni protokol te automatski masovno generira i prodaje lažne račune. Tvrtke koje se predstavljaju kao pružatelji rješenja za privatnost upravljaju "farmama" tisuća SIM kartica i SIM banaka - stvarnih i virtualnih - kako bi nudile SMS verifikacije i preusmjeravale internetski promet kroz mobilne mreže radi prikrivanja njegova podrijetla.
Lažni računi kupljeni na ovom "transnacionalnom sivom tržištu" neformalnih poduzeća, često smještenih u državama s minimalnim pravnim nadzorom, čine temelj internetskih prijevara. Prema istraživačima sa Sveučilišta u Cambridgeu, ovo tržište stoji i iza brojnih zlonamjernih bot-kampanja koje danas dominiraju mračnim tehnikama propagande i odnosa s javnošću.
- Sofisticirani bot može provoditi kampanju utjecaja putem stotina lažnih računa - rekao je dr. Jon Roozenbeek.
- Generativna umjetna inteligencija omogućuje botovima da se prilagođavaju porukama kako bi djelovali ljudskije, pa čak i da ih personaliziraju u odnosu na druge račune. Vojske botova postaju uvjerljivije i sve teže prepoznatljive.
Primjerice, studija provedena prošle godine otkrila je botnet od 1.140 računa na platformi X koji je koristio generativnu umjetnu inteligenciju za vođenje automatiziranih razgovora.
Cambridgeov tim je COTSI izgradio koristeći otvorene podatke preuzete od nekih od najvećih svjetskih dobavljača lažnih računa. Identificirano je sedamnaest dobavljača, koji su zatim rangirani prema prometu kako bi se fokus stavio na deset najvećih. U svakom se trenutku četiri dobavljača koriste za izradu globalnog cjenovnog indeksa, dok su ostali u pričuvi.
COTSI ne prati samo cijene, već i raspoložive "zalihe" lažnih računa koje svaki dobavljač nudi u svakoj zemlji za stotine platformi. To uključuje sve društvene mreže, aplikacije za plaćanja, upoznavanje i igranje, kripto-mjenjačnice, platforme ekonomije dijeljenja poput Airbnba, glazbene i video streaming servise, aplikacije za prijevoz poput Ubera, kao i račune za velike brendove.
- Jedna SIM kartica može se koristiti za stotine različitih platformi - rekao je Anton Dek.
- Dobavljači nadoknađuju troškove SIM kartica prodajom vrlo traženih verifikacija za aplikacije poput Facebooka i Telegrama, a zatim ostvaruju dobit na velikom broju drugih platformi.
Analize pokazuju da su globalne zalihe lažnih računa najveće za platforme poput X-a, Ubera, Discorda, Amazona, Tindera i Steam-a, dok dobavljači drže milijune verifikacija dostupnih za Ujedinjeno Kraljevstvo i SAD, kao i za Brazil i Kanadu.
Meta, Grindr i Shopify ubrajaju se među platforme s najjeftinijim lažnim računima, s globalnim prosjekom od 0,08 USD po verifikaciji. Slijede X i Instagram s prosjekom od 0,10 USD, TikTok i LinkedIn s 0,11 USD te Amazon s 0,12 USD.
Istraživači su testirali tržište i sami, s mješovitim rezultatima. Pokušaj verifikacije lažnih američkih Facebook računa uspio je samo u 21 posto slučajeva kod jednog velikog pružatelja, ali u više od 90 posto kod drugog. Razlika se uglavnom svodi na korištenje virtualnih naspram fizičkih SIM kartica.
- Neke platforme koriste metode digitalnog "fingerprintinga", zbog čega IP adrese mogu biti blokirane ako registracija ne uspije - rekao je Dek.
- Visokokvalitetne verifikacije zahtijevaju fizičke SIM kartice i goleme banke telefona. Države u kojima su SIM kartice skuplje imaju i više cijene lažnih računa, što vjerojatno smanjuje razinu zlonamjernih internetskih aktivnosti.
Politički utjecaj diže cijene uoči izbora
Kako bi ispitali mogu li se političke operacije utjecaja uočiti na tim tržištima, istraživači su analizirali cijene i dostupnost SMS verifikacija za osam velikih društvenih mreža u 30 dana uoči 61 nacionalnih izbora održanih diljem svijeta između ljeta 2024. i sljedećeg ljeta. Otkrili su da su cijene lažnih računa na aplikacijama za izravnu razmjenu poruka Telegram i WhatsApp naglo rasle uoči izbora, vjerojatno zbog povećane potražnje. Prosječna cijena Telegram računa porasla je za 12 posto, a WhatsApp računa za 15 posto.
Računi na tim aplikacijama povezani su s vidljivim telefonskim brojevima, što olakšava utvrđivanje zemlje podrijetla. Zbog toga akteri koji provode operacije utjecaja moraju registrirati lažne račune lokalno, čime se povećava potražnja za SMS verifikacijama u ciljanim državama.
Suprotno tome, na platformama poput Facebooka i Instagrama nije pronađena povezanost cijena s izborima, jer se lažni računi mogu registrirati u jednoj zemlji, a koristiti u drugoj, uz znatno veći doseg koji održava stalno visoku potražnju.
- Lažni Facebook račun registriran u Rusiji može objavljivati sadržaj o američkim izborima, a većina korisnika to neće primijetiti. To ne vrijedi za aplikacije poput Telegrama i WhatsAppa - rekao je Roozenbeek.
Telegram se, prema istraživačima, široko koristi za operacije utjecaja, osobito od strane državnih aktera poput Rusije, koja je znatno ulagala u informacijsko ratovanje na toj platformi. WhatsApp i Telegram ubrajaju se među platforme s trajno visokim cijenama lažnih računa, s prosjecima od 1,02 USD odnosno 0,89 USD.
Istraživački tim navodi da veliki igrači na tržištu manipulacije imaju značajne baze korisnika u Kini i Ruskoj Federaciji. Često se koriste ruski i kineski platni sustavi, a gramatika na mnogim stranicama upućuje na rusko autorstvo. Ti dobavljači prodaju račune registrirane u državama diljem svijeta.
- Teško je izravno uočiti djelovanje državnih političkih aktera jer se često oslanjaju na zatvorenu infrastrukturu. Ipak, sumnjamo da se dio tih aktivnosti i dalje outsourca manjim sudionicima na tržištu manipulacija - rekao je Dek.
Manji dobavljači preprodaju postojeće račune ili ih ručno stvaraju i "uzgajaju", dok veći nude uslugu "sve na jednom mjestu", uključujući masovne narudžbe pratitelja ili lažnih računa, pa čak i korisničku podršku.
Studija iz 2022. godine, čiji je suautor Dek, pokazala je da se za oko deset eura u prosjeku može kupiti približno 90.000 lažnih pregleda ili 200 lažnih komentara za tipičnu objavu na društvenim mrežama.
- COTSI baca svjetlo na sivu ekonomiju internetske manipulacije pretvarajući skriveno tržište u mjerljive podatke - zaključio je prof. Sander van der Linden, suautor novog rada u časopisu Science.
- Razumijevanje troška internetske manipulacije prvi je korak prema razgradnji poslovnog modela koji stoji iza dezinformacija - objavili su u tekstu na stranicama Sveučilišta Cambridge.
