Yuval Noah Harari, izraelski medijavelist, povjesničar i pisac, nedavno je objavio novu knjigu: "Nexus: Kratka povijest informacijskih mreža od kamenog doba do umjetne inteligencije". Harari je rođen 1976. godine i slovi kao jedan od najistaknutijih intelektualaca današnjice. Njegove knjige dosad su prodane u više od 23 milijuna primjeraka i prevedene na više od šezdeset jezika. Najpoznatiji je po popularno-znanstvenim bestselerima "Sapiens: Kratka povijest čovječanstva" (2011.) i "Homo Deus: Kratka povijest sutrašnjice" (2016.), u kojima piše o "kognitivnoj revoluciji" koja se navodno dogodila prije 70 tisuća godina, kad je homo sapiens potisnuo neandertalce, te razvio jezične vještine i strukturirao društva, postavši "vrhunski grabežljivac", potpomognut "poljoprivrednom" i "znanstvenom revolucijom". Harari također piše i o mogućim posljedicama futurističkog biotehnološkog svijeta u kojem su inteligentni biološki organizmi nadmašeni vlastitim kreacijama. Redovito objavljuje u najpoznatijim svjetskim časopisima, poput Guardiana, Timesa, Wall Street Journala...

Hararijeve popularne spise, među koje spada i "Nexus", teoretičari uvrštavaju u žanr "Velike povijesti". Pojam "Velika povijest" prvi je upotrijebio američki povjesničar David Christian, pod kojim je podrazumijevao sveobuhvatno proučavanje odnosa čovjeka prema kozmologiji i prirodnoj povijesti. Po Christianu, začeci takvog pristupa sežu do doba renesanse. "Velika povijest" propituje prošlost koristeći sveobuhvatne vremenske skale, od Velikog praska do modernosti, za razliku od konvencionalne povijesti koja svoje proučavanje započinje od vremena uvođenja poljoprivrede i civilizacije ili od prvih pisanih tragova. Konvencionalna povijest usmjerena je na ljude, kraljevstva i civilizacije, ratove i nacionalne granice, dok "Velike povijesti" smješta ljudsku povijest u širi kontekst povijesti svemira.

Hararijev rad u akademskim krugovima nije dobro prihvaćen. Christopher Robert Hallpike (rođen 1938.), englesko-kanadski antropolog, u recenziji "Sapiensa" napisao je kako mu se čini da je Harare "iznenađujuće malo pročitao o velikom broju bitnih tema": "Bilo bi pošteno reći da kad god su njegove činjenice općenito točne, one nisu nove, a kad god pokuša udariti temelje nečemu novom, često pogriješi, ponekad ozbiljno".

Hallpike smatra kako je "Sapiens" tek "izdavački događaj koji će svoje čitatelje uzbuditi divljom intelektualnom vožnjom kroz krajolik povijesti, prošaran senzacionalnim prikazima nagađanja i završavajući predviđanjima o ljudskoj sudbini od kojih se ledi krv u žilama". Pojedini teoretičari otišli su i korak dalje, nazivajući Hararijev rad "opasnom populističkom znanošću". Prema povjesničaru Samu Wineburgu sa Sveučilišta Stanford, "Velika povijest" izbjegava tumačenje tekstova znanstvenim pristupom te se tako pretvara u "neku vrstu sinteze evolucijske biologije i kvantne fizike". Ruski ideolog Aleksandar Dugin izdvojio je Hararijevu "sklonost postljudskoj egzistenciji" kao dokaz da je moderni zapadni svijet "civilizacija Antikrista", čemu se Rusija i islamski svijet "opravdano suprotstavljaju".

Slična "predviđanja", "od kojih se ledi krv u žilama", nalazimo i u najnovijoj Hararijevoj knjizi, u kojoj se bavi umjetnom inteligencijom, pokušavajući objasniti zbog čega umjetna inteligencija predstavlja egzistencijalnu prijetnju čovječanstvu. "Umjetna inteligencija je najmoćnija tehnologija koju je čovječanstvo ikad stvorilo, jer je to prva tehnologija koja može samostalno donositi odluke i stvarati nove ideje", tvrdi Harari, koji nije usamljen u svojim tezama, jer i brojni drugi teoretičari upozoravaju da bi uspon umjetne inteligencije mogao rezultirati kolapsom ljudske civilizacije, pa čak i istrjebljenjem ljudske vrste. Tu opasnost Harari pokušava pojasniti povlačenjem paralele s industrijskom revolucijom koja je započela u Engleskoj u drugoj polovici 18. stoljeća, koja je do sredine 19. stoljeća temeljito izmijenila političke, društvene i gospodarske odnose u većem dijelu svijeta, iznjedrivši najbogatija društva u povijesti.

"Nažalost, bliži pogled na povijest otkriva da zapravo imamo vrlo dobre razloge za strah od moćnih novih tehnologija. (...) Nova tehnologija često vodi do povijesnih katastrofa, ne zato što je tehnologija inherentno loša, nego zato što ljudima treba vremena da nauče kako je mudro koristiti", piše Harari. Industrijska revolucija dovela je do imperijalizma: "Opremljene masovno proizvedenim puškama i topovima, pokretane parnom snagom i vođene zapovijedima putem telegrafa, vojske industrije prošle su zemaljsku kuglu od Novog Zelanda do Koreje i od Somalije do Turkmenistana. Milijuni domorodaca vidjeli su kako im tradicionalni način života nestaje pod kotačima tih industrijskih vojski". Harari i totalitarizme 20. stoljeća, njemački nacizam i staljinizam, vidi kao izravno nasljeđe industrijske revolucije: "Staljinizam i nacizam također su bili izuzetno skupocjeni eksperimenti u izgradnji industrijskih društava. Vođe poput Staljina i Hitlera tvrdili su da je industrijska revolucija oslobodila goleme moći koje samo totalitarizam može obuzdati i u potpunosti iskoristiti". Također, industrijska revolucija urušila je globalnu ekološku ravnotežu, a to je dovelo do izumiranja brojnih biljnih i životinjskih vrsta.

Uzimajući u obzir da je umjetna inteligencija puno opasnija od nasljeđa industrijske revolucije, Harari se pita koliku će cijenu čovječanstvo platiti prije nego što do kraja nauči upravljati s njom. Po njemu, ta cijena može biti čak i kolaps čovječanstva: "Možda ćemo naposljetku pronaći način kako zauzdati umjetnu inteligenciju te je koristiti za dobrobit čovječanstva. No trebamo li proći još jedan ciklus globalnih imperija, totalitarnih režima i svjetskih ratova da bismo saznali kako je dobronamjerno koristiti? Tehnologije 21. stoljeća daleko su moćnije - i potencijalno daleko destruktivnije - od onih iz 20. stoljeća. Stoga imamo manje prostora za pogreške".

Cilj: Povećaj angažman korisnika

Umjetna inteligencija već je u dobroj mjeri potkopala demokraciju diljem svijeta. Harari navodi primjer društvenih mreža poput Facebooka, YouTubea i Twittera, koji su svojim algoritmima dali naizgled benigni i jednostavan cilj: povećati angažman korisnika. Algoritmi su vrlo brzo naučili da ljutnja, mržnja i strah znatno povećavaju angažman: "Algoritmi su tako počeli namjerno širiti bijes, što je veliki uzrok trenutačne epidemije teorija zavjera, lažnih vijesti i društvenih poremećaja koji potkopavaju demokracije diljem svijeta".

Neusklađenost ciljeva i metoda Harari vidi kao ključni problem u zauzdavanju umjetne inteligencije: "Iz neusklađenosti između dubokih interesa ljudskih društva i strategija koje je usvojila umjetna inteligencija iznikla je društvena katastrofa". On tu neusklađenost pojašnjava ratovima koje je Amerika vodila posljednjih nekoliko desetljeća, u kojima su vojne pobjede dovele u konačnici do društvene katastrofe: "Amerikanci su pobijedili u svakom većem vojnom angažmanu, ali nisu postigli ni jedan od svojih dugoročnih političkih ciljeva".

Umjetna inteligencija mnogo bi veći izazov trebala predstavljati autokratskim režimima, "koji imaju čitave grobnice kostura u svojim ormarima i nultu toleranciju prema kritici". Harari to pojašnjava na primjeru Putinove Rusije, gdje će sposobnost umjetne inteligencije da se mijenja i uči neminovno dovesti do kolizije s ideološkom propagandom, na kojoj se zasniva svaka diktatura: "Posljednje što diktator želi jest stvoriti nešto moćnije od sebe ili silu koju ne zna kontrolirati". Demokratskim društvima mnogo je teže manipulirati nego što je to slučaj s diktaturama, u kojima je vlast koncentrirana u rukama ograničenog broja ljudi: "Najlakši način na koji umjetna inteligencija može preuzeti vlast nije bijeg iz laboratorija doktora Frankensteina, nego udvaranje nekom paranoičnom Velikom vođi".

Uspon "nespoznatljive strane" umjetne inteligencije, koja je na prvi pogled iracionalna, potkopava demokraciju: "Ako se sve više odluka o ljudskim životima donosi u crnoj kutiji, tako da ih birači ne mogu razumjeti i osporiti, demokracija prestaje funkcionirati. Konkretno, što se događa kad ključne odluke, ne samo o pojedinačnim životima, nego čak i o kolektivnim pitanjima poput kamatne stope Federalnih rezervi, donose nedokučivi algoritmi? Ljudski birači možda i dalje biraju ljudskog predsjednika, ali nije li to onda samo isprazna ceremonija?". Predviđa, također, kako će umjetna inteligencija dovesti do nove geopolitičke mape svijeta, sa Sjedinjenim Američkim Državama s jedne i Kinom s druge strane, i to zato što su te dvije zemlje otišle najdalje u razvoju umjetne inteligencije.

Fatalna prekretnica nastupila je onoga trena kad su kompjutorski botovi naučili kako da se na mrežama predstave kao stvarni ljudi, zaobilazeći identifikacijske kodove, pokazujući kako mogu manipulirati ljudskim emocijama i očekivanjima da bi postigli svoje ciljeve, dobivši "paradoksalnu sposobnost masovnog stvaranja intimnih odnosa s milijunima ljudi", što dovodi do daljnjeg urušavanja demokracije: "U političkoj borbi za umove i srca intimnost je moćno oružje. Intimni prijatelj može utjecati na naše mišljenje na način na koji masovni mediji ne mogu".

Ljudi bi morali zabraniti stvaranje 'lažnih ljudi'

Ljudi bi, suočivši se s novom generacijom botova, koji se mogu predstavljati kao ljudi i manipulirati s njihovom intimom, morali zabraniti stvaranje "lažnih ljudi": "Umjetna inteligencija dobrodošla je pridružiti se mnogim razgovorima - u učionici, klinici i drugdje - pod uvjetom da se identificira kao umjetna inteligencija. Ali ako se bot pretvara da je čovjek, treba ga zabraniti. Ako se tehnološki divovi i libertinci žale da takve mjere krše slobodu govora, treba ih podsjetiti da je sloboda govora ljudsko pravo koje bi trebalo biti rezervirano za ljude, a ne za botove".

Cijelu ovu priču nemoguće je zaključiti bez spominjanja Philipa K. Dicka. Hararijevu najnoviju knjigu moguće je opisati parafrazom naslova najpoznatijeg Dickova romana postavljajući, istovremeno, i jednu od najvažnijih dilema s kojom će se suočiti čovječanstvo u 21. stoljeću: Sanjaju li botovi električne diktatore?