Tehnologija kojom smo okruženi, postala je do te mjere dio našeg života da ju gotovo više ni ne primjećujemo. Ni ne primjećujete kako je video klip Peppe Pig koju vaša djeca prate na YouTubeu u jednom trenutku iz dječjeg crtića prerastao u nasilje i smrt. Ne razmišljate kako je društvena mreža na kojoj ste otvorili profil kako bi bili u kontaktu sa školskim prijateljima, postala plodno tlo za utjecanje na glasače, oko političkih ili sličnih tema.
Nešto se čudno dogodilo u načinu na koji razmišljamo, što je dovelo i do toga da se nešto čudno događa sa svijetom. Počeli smo vjerovati kako je sve povezano s digitalnim svijetom, i kako se sve može riješiti putem jedne od aplikacija. No ove tehnologije nisu samo neutralni promatrači, one su zapravo alat, a kao i svaki drugi alat, mogu biti dobre ili loše, ovisno o tome u čijim se rukama nalaze.
U njima su utkane naše političke ili društvene predrasude, prelaze granice državne ili legalne zakonodavne vlasti a čak prelaze i granice razumijevanja njihovih kreatora. Preuzimaju kontrolu nad sve većim dijelom našeg života i dovode do toga da zapravo razumijemo sve manje i manje o svijetu koji nas okružuje, piše The Guardian.
U bilo kojem dijelu društva, znanosti, politike, obrazovanja, trgovine, tehnologije ne samo da povećavaju naše mogućnosti, one ih aktivno oblikuju i upravljaju njima, na dobar ili loš način. One kompleksne koje ne razumijemo kako funkcioniraju zapravo su izvrsno oruđe u rukama sebičnih elita ili korporacija. Rezultati toga vidljivi su svuda oko nas.
Umjesto utopijske budućnosti u kojoj tehnološki napredak baca novo svjetlo na razvoj svijeta, čini se ušli smo u novo, mračno doba kojeg karakteriziraju bizarni i nikad prije viđeni događaji. Pristup sve većem broju informacija čini se nije nas doveo u pametnije sutra, i razdoblje mira bez granica, već naprotiv, potaknuo je socijalnu nejednakost, podjele, nepovjerenje, teorije urota i razne politike.
Kako bi razumjeli kako je došlo do toga, važno je razumjeti kako su naše tehnologije postale takve, i kako smo mi zapravo počeli imati toliko povjerenja u njih.
Tijekom 50-ih godina prošlog stoljeća novi je simbol počeo zauzimati mjesto u dijagramima koje su crtali električni inženjeri kako bi opisali sistem kojeg su izgradili - nešto poput kruga ili mjehurića, a naposljetku je to poprimilo oblik oblaka. Na čemu god da su inženjeri radili, mogli su se spojiti na taj oblak, i to je sve što trebate znati. Ostali oblaci mogli su biti za razmjenu podataka, ili neku novu računalnu mrežu.
Što god da bilo, njegova svrha je bila omogućiti fokusiranje na određeno pitanje. Oblak je postao sve važniji u trenutku kada su mreže postale veće i povezanije, pa je tako vodio glavna riječ u biznisu, pa čak i više od toga. Postao je metafora.
Danas je to glavna metafora za internet, taj globalni sistem velike snage i energije koji sadrži nešto što nije opipljivo, i čija nam je veličina neshvatljiva. Problem s ovom metaforom je u tome što oblak nije neko magično udaljeno mjesto gdje sve radi savršeno. To je fizička infrastruktura koja se sastoji od telefonskih linija, optičkih vlakana, satelita, kabela na dnu oceana i ogromnih skladišta ispunjenih računalima koja troše ogromne količine vode i energije.
On je toliko 'snažan' i moćan da je apsorbirao sve naše podatke o mjestima gdje kupujemo, našim bankama, socijalnom životu, knjigama koje posuđujemo, i onima koje biramo.
U proteklim desetljećima računala su zamijenila ljude. Njihovi postupci postali su automatizirani i omogućili da se određene stvari obavljaju sve brže i brže, gotovo trenutno. Algoritmi visoke frekvencije (HTF), koje su dizajnirali bivši studenti fizike kako bi iskoristili prednosti milisekunda, stigli su na tržište, a dali su im ime poput The Knife.
Ti su algoritmi bili sposobni izvući frakcije centa po svakoj obavljenoj trgovini, i mogli su to činiti milijun puta dnevno.
Nešto jako čudno događa se na tim masivnim tamnim tržištima. 6. svibnja 2010. godine Dow Jones je započeo loše, i bilježio pad koji je bio odgovor na dužničku krizu u Grčkoj. No oko 14 sati indeks je počeo rapidno opadati. Na svojoj najnižoj vrijednosti indeks je bio gotovo 1000 bodova ispod prosjeka prijašnjeg dana, što je razlika od gotovo 10 posto ukupne vrijednosti, i najveći pad u jednom danu u povijesti. U samo 25 minuta oporavio se gotovo za 600 bodova, što je bila najveća i najbrža promjena.
Jedno regulatorno izvješće pokazalo je kako su upravo trgovci uz pomoć raznih HFT programa pogoršali cijene, tj. programirali njihovu trenutnu prodaju. Spuštanje cijena potaknulo je grupu programa koji su krenuli s prodajom. I tako je jedan algoritam potaknuo drugi i kreirao domino efekt u kojem su računala odigrala isprogramiranu igru, brzo i učinkovito.
Ostale teorije upravo algoritme smatraju krivcima za pokretanje krize. Jedna od tehnika koje je identificirana u podacima su HFT programi koji su slali niz naredbi koje nije bilo moguće ispuniti, kao što su naredbe za prodajom ili kupovanjem dionica koje su toliko daleko od uobičajenih cijena da su ignorirane.
Njihova namjena nije bila zaraditi, već namjerno zamračiti sistem , kako bi se druge, vrjednije transakcije mogle izvršiti i iskoristiti tu zbunjenost.
Sličan slučaj dogodio se u listopadu 2016. godine kada su algoritmi reagirali na vijesti o Brexitu što je dovelo do pada funte za šest posto u odnosu na dolar u samo dvije minute, prije gotovo trenutnog oporavka. Koja je točno vijest ili algoritam potaknuo taj krah nije jasno.
Pad je izazvala i vijest 23. travnja 2013. godine kada je AP poslao tvit svojim pratiteljima, o dvjema eksplozijama u Bijeloj kući u kojima je ozlijeđen Barack Obama. Poslije se ispostavilo kako je riječ o lažnoj vijesti, hakerskom napadu, koje je izvela grupa povezana sa sirijskim predsjednikom Bashar al-Assadom. Iako su brzo otkrili kako je riječ o lažnoj vijesti, svejedno je zabilježen pad vrijednosti dionica na burzi u roku od nekoliko minuta, prije oporavka do svojih prijašnjih vrijednosti.
Računala su raširena i skrivena u svakom objektu našeg života. Tako je i npr. u slučaju jednog od Samsungovih pametnih hladnjaka iz 2015. godine koji je povezan s Googleovim kalendarom, što omogućuje dostavu namirnica iz kuhinje. Što je značilo da i su hakeri koji su došli do tih podataka u strojevima mogli doći i do podataka o lozinki gmail računa njihovih korisnika.
Istraživači u Njemačkoj otkrili su način kako umetnuti zlokoban kod u Philipsove wifi Hue žarulje koje se mogu proširiti po zgradama po cijelom gradu, te brzim uključivanje svjetala, po jednom od mogućih scenarija, mogu pokrenuti i fotosenzitivnu epilepsiju.
U noveli Aurora, autora Kima Stanleyja Robinsona, inteligentni svemirski brod prevozi ljudsku posadu sa Zemlje na daleku zvijezdu. Putovanje će trajati nekoliko života, pa je tako jedan od zadataka broda da osigura kako će se ljudi brinuti o sebi. Kada se njihovo krhko društvo uruši, brod upotrebljava sigurnosne sisteme kao način kontroliranja situacije. Ta mu kontrola omoguće da sve vidi uz pomoć senzora, otvora vrata, govori toliko glasno preko opreme za komunikaciju kako bi izazvao fizičku bol, te čak smanji i opskrbu kisikom u određenim dijelovima.
Ovo je otprilike isti niz mogućnosti koje nudi Google Home i njegovi partneri, što je mreža internetski povezanih kamera za kućnu sigurnost, s pametnim bravama, termostatom koji je sposoban podizati ili spuštati temperaturu u pojedinim sobama, i alarmnim sustavom.
Svaki dobar haker imao bi iste moći koje Aurora ima nad posadom.
No pitanje je koliko su neki trenuci, koje smo mogli vidjeti samo u SF filmovima, zapravo mogući u stvarnosti? Može li to izgledati poput slučaja Mirai, softvera koji je 21. listopada 2016. godine na nekoliko sati srušio velike dijelove interneta?
Kada su stručnjaci istražili Mirai, otkrili su kako su mu mete slabije osigurani internetski uređaji, od sigurnosnih kamera do digitalnih videorekordera, koje pretvara u vojsku botova. Za samo nekoliko tjedana, Mirai je zarazio pola milijuna uređaja a samo 10 posto tog kapaciteta bilo je dovoljno da zaustavi glavne mreže satima.
Mirai nije ništa slično Stuxnetu, drugom virusu koji je otkriven u industrijskim sustavima kontrole hidroelektrana i tvornica 2010. godine. Stuxnet je bio vojno cyber oružje. Kada su ga pregledali, utvrdili su kako je bio usmjeren posebno na Siemens centrifuge, i dizajniran da se ugasi kada bi došao do objekta koji posjeduje određeni broj takvih strojeva.
Broj je odgovarao jednom određenom objektu - nuklearnom postrojenju Natanz u Iranu. Prilikom aktivacije, program će tiho degradirati najvažnije komponente centrifuga, uzrokujući njihovo razbijanje i poremećaj iranskog programa obogaćivanja.
Napad je, navodno, bio samo djelomično uspješan, no ostaje nepoznat utjecaj na druga zaražena postrojenja. Unatoč sumnjama, i dana se ne zna porijeklo Stuxneta i tko ga je napravio. Isto kao što nitko ne zna ni tko je kreator Mirala, ili od kuda će njegov novi napad stići. Možda to biti i sada, iz neke nadzorne kamere u vašem uredu, ili iz nekog wi fi uređaja u vašoj kuhinji.
Programeri igara nalaze se u beskonačnim ciklusima ažuriranja i kupnje putem aplikacija kojima upravljaju sučelja koja testiraju i prate ponašanja igrača. Igrači su razvili finu ovisnost o dopaminu zbog koje tinejdžeri umiru od iscrpljenosti ispred svojih računala, od kojih se ne mogu odmaknuti.
U ljeto 2015. godine, klinika za poremećaj spavanja bolnice u Ateni bila je zaposlenija nego ikad prije. Bilo je to za vrijeme traumatične dužničke krize u Grčkoj. Među pacijentima bili su vrhunski političari i državni službenici, ali strojevi na koje su oni noćima bili spojeni, i koji su pratili njihovo disanje, pokrete, čak i rečenice koje su izgovarali u snu, slali su te informacije, zajedno s njihovim osobnim medicinskim podacima, proizvođačima u sjevernoj Europi.
U mogućnosti smo snimiti svaki dio našeg svakodnevnog života uz tehnologiju na površini našeg tijela, koja nas uvjerava da i mi možemo biti optimizirani i nadograđeni kao naši uređaji.
Pametne narukvice i aplikacije pametnih mobitela s integriranim brojačima koraka i sl. ne samo da prate našu lokaciju, već i svaki naš dah i otkucaj srca, pa čak i uzorke naših moždanih valova. Korisnici se potiču da svoje mobitele drže na uzglavlju, tako da se njihovi obrasci spavanja mogu čak i snimiti. Gdje odlaze svi ti podaci, tko je njihov vlasnik i kada bi mogli biti objavljeni?
Podaci o našim snovima, našim noćnim morama i rano jutarnjim trenucima, dok smo još nesvjesni sami sebe, pretvaraju se samo u gorivo za sustave, neumoljive i nepregledne. Ili, možda, taj sudar u stvarnosti izgleda baš kao i sve što doživljavamo upravo sada. Rastuća ekonomska nejednakost, slom nacionalnih država i militarizacija granica, globalni nadzor i ograničavanje individualnih sloboda, trijumf transnacionalnih korporacija i neurokognitivnog kapitalizma, uspon krajnje desnih grupa ideologija te degradacija okoliša.
Ništa od toga nije izravna posljedica novih tehnologija, ali sve je to rezultat opće nesposobnosti percipiranja širih, umreženih učinka individualnih i korporativnih akcija ubrzane tamnom tehnološkom kompleksnosti.
Godine 1997. u New Yorku svjetski šahovski velemajstor Gari Kasparov suočio se drugi put s Deep Blueom, računalom kojeg je IBM posebno osmislio kako bi pobijedio upravo najvećeg majstora. Nakon što je izgubio, rekao je kako su neki od pokreta Deep Bluea bili toliko inteligentni i kreativni da su sigurno bili rezultat ljudske intervencije.
U trenutku kada je Googleov softver AlphaGo krenuo na korejskog profesionalnog Go igrača Lee Sedol u 2016., nešto se promijenilo. U drugoj od pet igara, AlphaGo je odigrao potez koji je iznenadio Sedola, stavljajući jedan od njegovih kamenčića na drugu stranu ploče.
"To je vrlo čudan potez", rekao je jedan komentator. "Mislio sam da je pogreška", rekao je drugi. Fan Hui, iskusan Go igrač, prvi profesionalac koji je izgubio od stroja šest mjeseci ranije, rekao je: "To nije ljudski potez. Nikad nisam vidio čovjek da je povukao ovakav potez".
AlphaGo je osvojio igru i seriju. AlphaGoovi inženjeri razvili su svoj softver tako što su 'hranili' mrežu s milijunima poteza stručnih igrača Goa, a zatim je istrenirali nadmećući se sami sa sobom milijunima puta, pa su tako razvili strategije koje su nadmašile one ljudskih igrača. No, ta strategija nije tako dokučiva, možemo vidjeti poteze koje je napravio, ali ne i odluku zbog koje ih je povukao.
Mnogi od nas upoznati su sa Google prevoditeljem, koji je pokrenut 2006. godine, koristeći tehniku nazvanu statističko jezično zaključivanje. Umjesto da je probao shvatiti kako jezici funkcioniraju, sustav je usvojio ogromnu bazu postojećih prijevod, paralelnih tekstova s istim sadržajem na različitim jezicima. Jednostavnim međusobnim povezivanjem riječi, uklonio je ljudsko razumijevanje i zamjenio ga poveznicom koja se temelji na podacima.
Prevoditelj je poznat po svojim smiješnim pogreškama, no 2016. sustav je počeo upotrebljavati neuronsku mrežu koju je razvio Google Brain, pa su se i poboljšale njegove sposobnosti. Umjesto da jednostavno preusmjerava gomilu tekstova, mreža je izgradila svoj vlastiti model svijeta, a rezultat nije skup dvodimenzionalnih veza između riječi, već karta čitavog teritorija. U ovoj novoj arhitekturi, riječi su kodirane međusobnim razmakom u mreži značenja - mreži koju samo računalo može shvatiti.
Mapa je multi dimenzionalna i povezuje riječi ,i emocije u smjerovima u kojima to ljudski mozak ne može shvatiti.
Iste godine drugi istraživači u Google Brainu postavili su tri mreže nazvane Alice, Bob i Eve. Njihov je zadatak bio saznati kako kriptirati informacije. Alice i Bob oboje su znali broj - ključ, kojeg nije znala Eva. Alice će izvesti operacije na nizu tekstova, a zatim ih poslati Bobu i Evi. Ako je Bob mogao dekodirati poruku, Alicein rezultat se povećao, no ako je to mogla učiniti i Eva, Aliceina ocjena bi se smanjila.
Alice i Bob naučili su komunicirati bez da im Eva otkrije kod, razvili su privatni oblik enkripcije kakav se danas koristi u privatnim emailovima. No, ključno je, da mi ne razumijemo kako to šifriranje funkcionira. Ono što se skriva od Eve također je skriveno i od nas. Strojevi su naučili čuvati svoje tajne.
Razumijevanje našeg mjesta u svijetu, našeg odnosa prema drugim ljudima i strojevima, odlučit će gdje će nas tehnologije odvesti.Tehnologije koje oblikuju našu sadašnju percepciju stvarnosti neće nestati, a u mnogim slučajevima njihov nestanak ne bi ni trebali poželjeti.
Naši sustav za održavanje na planeti od 7,5 milijardi ljudi i više, ovisi o tehnologiji. Naše razumijevanje tih sustava i svjesnih izbora koje radimo prilikom njihovog dizajna ostaju u potpunosti unutar naših mogućnosti. Nismo nemoćni. Moramo samo misliti, razmisliti i nastaviti razmišljati. Mreža, mi i naši strojevi, stvari koje zajedno otkrivamo i o kojima razmišljamo, to od nas zahtijevaju.
Računalni sustavi, kao alati, naglašavaju jedan od najsnažnijih aspekata čovječanstva - našu sposobnost da djelujemo u svijetu i oblikujemo ga prema našim željama. Ali otkrivanje i artikuliranje tih želja, i osiguranje istih o degradacije, nestanka ili brisanja želja drugih, ostaju naša povlastica.
Iako danas čak i srednjoškolsko šahovsko računalo može 'obrisati pod' s većinom šahovskih velemajstora, prosječni igrač s prosječnim računalom sposoban je pobijediti najsofisticiranije superračunalo. A igra koja proizlazi iz ove kombinacije načina razmišljanja revolucionizira igru.
Ostaje vidjeti da li je suradnja moguća, i da li će biti dopuštena sa složenim strojevima i sustavima upravljanja koji se sada razvijaju. No zajedničko razumijevanje i razmišljanje nude više nade u budućnosti nego opsjednutost i dominacija. Računala nisu ovdje da bi nam dala odgovore na sva pitanja, već da bi nam omogućila da nova pitanja, na nove načine, pošaljemo u svemir.
