U posljednjim godinama svog stogodišnjeg života, Henry Kissinger, diplomat čije je ime postalo sinonim za geopolitičku strategiju 20. stoljeća, nije bio opsjednut duhovima prošlosti, Vijetnamom ili Hladnim ratom. Njegov um zaokupljala je budućnost, ali ne ona definirana nuklearnim projektilima, već nevidljivom, samoučećom silom koja je prijetila iz temelja promijeniti ljudsku sudbinu: umjetnom inteligencijom. Čovjek koji je oblikovao politiku u sjeni atomske bombe, u smiraju života shvatio je da se čovječanstvo suočava s tehnološkom revolucijom koja bi mogla biti još opasnija. Svojom posljednjom intelektualnom misijom smatrao je upozoriti svijet na, kako je vjerovao, najopasniju utrku u naoružanju u povijesti.

Mnoge je iznenadilo kada je Kissinger, tada 95-godišnjak, 2018. godine u The Atlanticu objavio esej "Kako prosvjetiteljstvo završava", u kojem se bavio umjetnom inteligencijom. No, za one koji su poznavali dubinu njegova strateškog razmišljanja, to nije bilo iznenađenje. Njegov biograf, povjesničar Niall Ferguson, podsjeća da je Kissinger svoju reputaciju izgradio još 1957. godine knjigom o novoj tehnologiji koja je mijenjala svijet. U djelu "Nuklearno oružje i vanjska politika", koje je zadobilo poštovanje čak i Roberta Oppenheimera, direktora projekta Manhattan, Kissinger se nije zalagao za rat. Upravo suprotno, cijeli njegov život bio je vođen imperativom izbjegavanja Trećeg svjetskog rata.

CRNI SCENARIJI Strah od AI apokalipse: Što ako ga više nećemo moći zaustaviti i ugasiti?

Shvaćao je da bi nuklearna fizija takav sukob učinila apokaliptičnim. U knjizi je hladno izračunao da bi sovjetski napad na 50 najvećih američkih gradova ubio između 15 i 20 milijuna ljudi, uz dodatnih pet do deset milijuna žrtava od radijacije. Postavio je ključno pitanje: je li moguća primjena sile koja bi bila manje katastrofalna od totalnog termonuklearnog rata? Na tom temelju razvio je kontroverznu doktrinu "ograničenog nuklearnog rata". Mnogi su se zgražali nad takvim hladnokrvnim razmatranjem, no obje supersile su na kraju razvile taktičko nuklearno oružje, slijedeći upravo logiku koju je on postavio. Gotovo sedam desetljeća kasnije, Kissinger je u umjetnoj inteligenciji vidio sličan, ali još podmukliji izazov. Bio je duboko zabrinut da bi AI, jednom integriran u vojne sustave, mogao djelovati na načine koje njegovi ljudski tvorci ne mogu predvidjeti ili kontrolirati. Jedna od najvećih opasnosti, upozoravao je, leži u "algoritamskoj crnoj kutiji", gdje logika iza odluka koje donosi umjetna inteligencija može ostati potpuno nepoznata ljudskim operaterima. To stvara ogroman rizik od nenamjerne eskalacije, gdje bi AI sustavi mogli pogrešno protumačiti poteze protivnika i pokrenuti katastrofalne protumjere bez ikakve ljudske intervencije.

Da bi se razumjela dubina Kissingerove zabrinutosti, nužno je vratiti se u njegove formativne godine. Rođen u Njemačkoj u židovskoj obitelji, kao dječak je iskusio progon. S obitelji je 1938. uspio pobjeći pred nacističkim terorom u Ameriku. Pet godina kasnije, unovačen je u američku vojsku. Kao mladi vojnik koji je govorio njemački, dodijeljen je obavještajnoj jedinici i sudjelovao u borbama na prvim linijama, uključujući i opasne misije tijekom Bitke u Ardenima. Presudan trenutak koji je oblikovao ostatak njegova života dogodio se u travnju 1945. godine. S 21 godinom, Henry je sudjelovao u oslobađanju koncentracijskog logora Hannover-Ahlem.

"Nikad nisam vidio ljude degradirane na razinu na kojoj su bili ljudi u Ahlemu. Jedva su izgledali kao ljudska bića. Bili su kosturi", zapisao je u svoj dnevnik.

To iskustvo, svjedočenje potpunoj dehumanizaciji, usadilo je u njega životnu misiju: spriječiti ponavljanje takvih užasa. Utjehu i filozofski okvir pronašao je u djelima njemačkog filozofa Immanuela Kanta, koji je postao njegov intelektualni kompas. Kantova etika, posebice kategorički imperativ da se ljudska bića nikada ne smiju tretirati isključivo kao sredstvo za postizanje cilja, već uvijek kao cilj sam po sebi, postala je temelj njegova pogleda na svijet. Taj duboki humanizam, proizašao iz najmračnijeg iskustva, provlači se i kroz njegovu posljednju knjigu "Genesis". U njoj, zajedno sa svojim tehnološki potkovanim koautorima, Kissinger postavlja uznemirujuće pitanje: može li umjetna inteligencija jednog dana zaslužiti sličan status "dostojanstva"? Ili, u još strašnijem scenariju, hoće li se uloge obrnuti? Hoće li čovječanstvo, jednom kada više ne bude najinteligentnije biće na planetu, postati samo oruđe, pa čak i ljubimac superinteligentnog AI-ja? To je sudbina, pišu autori, koju moramo izbjeći pod svaku cijenu, jer bi nas lišila upravo onog dostojanstva za koje se Kant zalagao.

POBUNA STROJEVA SUDNJI DAN Hoće li nas AI sve pobiti? Čovjek iz Anthropica kaže da hoće

Svoju konačnu poruku svijetu Kissinger je uobličio u knjizi "Genesis: Umjetna inteligencija, nada i ljudski duh", koju je napisao s tehnološkim divovima - bivšim izvršnim direktorom Googlea Ericom Schmidtom i bivšim šefom istraživanja u Microsoftu Craigom Mundiejem.

Schmidt je kasnije otkrio da je Kissinger bio pokretačka snaga projekta, pedantno radeći na tekstu i završivši posljednje poglavlje samo tjedan dana prije smrti u studenom 2023. godine. Njegovo razumijevanje AI-ja nije bilo samo teorijsko. Schmidt je ispričao anegdotu o tome kako je Kissinger želio osobno testirati mogućnosti tada najnovijih modela.

Dario Amodei, šef tvrtke Anthropic, dao mu je priliku. Kissinger je zadao upit: "Dizajniraj novu religiju koja će se brzo proširiti u današnjem dobu."

- Bio je potpuno zapanjen - ispričao je Schmidt.

Detaljan i razrađen plan koji je AI generirao u tom je trenutku Kissingeru, prema Schmidtovim riječima, u potpunosti osvijestio transformativnu moć tehnologije koja se rađa. To osobno iskustvo potaknulo ga je da se opsesivno posveti pisanju o posljedicama. Knjiga "Genesis" postavlja ključno strateško pitanje našeg doba: "Hoćemo li mi postati sličniji njima, ili će oni postati sličniji nama?" Autori odbacuju ideju biološkog "nadograđivanja" ljudi kako bi postali sličniji strojevima kao nepoželjnu i opasnu. Umjesto toga, zaključuju, "moramo, dok još možemo, pronaći načine da njih učinimo sličnijima nama." To zahtijeva duboko razumijevanje ne samo prirode AI-ja, već i same ljudske prirode, te pokušaj da se te vrijednosti i razumijevanja "ukodiraju" u strojeve. Knjiga iznosi i radikalnu ideju da bi superinteligentni AI, jednom stvoren, mogao biti bolji od ljudi u održavanju globalne ravnoteže, djelujući kao nepristrani posrednik u geopolitici. To je, priznaju autori, rizik, ali "tradicionalni putevi, koji zahtijevaju savršenstvo u ljudskom djelovanju, mogli bi biti još rizičniji".

Najopasnija utrka u naoružanju u povijesti

Kissingerov najveći strah bio je usmjeren na nekontroliranu utrku između dviju jedinih pravih AI supersila: Sjedinjenih Država i Kine. Kako je upozorio povjesničar Niall Ferguson, danas se odvijaju dvije paralelne utrke: jedna, jedva kontrolirana, između pet američkih tehnoloških kompanija (Anthropic, Google, Meta, OpenAI i xAI), i druga, geopolitički daleko opasnija, između Washingtona i Pekinga. Kissinger je, oslanjajući se na iskustva iz Hladnog rata, pozivao na hitan dijalog kako bi se uspostavila pravila i ograničenja, svojevrsni sporazum o kontroli naoružanja za 21. stoljeće. Međutim, naišao je na zid. Kako navode analize, njegov poziv se sudario s američkom strategijom koja se često doima zbunjenom i kineskim pristupom koji je duboko ciničan.

Peking odbija bilo kakve razgovore o ograničavanju razvoja AI-ja iz istog razloga iz kojeg odbija pregovore o nuklearnom razoružanju. Iz kineske perspektive, SAD ima značajnu prednost, kako u broju nuklearnih glava, tako i u naprednim AI modelima i računalnoj snazi. Bilo kakvo "usporavanje" ili nametanje "zaštitnih ograda" samo bi, smatraju u Pekingu, zacementiralo američku dominaciju i ostavilo Kinu ranjivom na ucjene. Nijedan kineski vođa ne bi pristao na takvo što. S druge strane, administracija predsjednika Donalda Trumpa situaciju promatra isključivo kroz prizmu nulte sume.

NOVO VRIJEME 'Nagovorio me AI': Umjetna inteligencija postala je 'stručnjak' u mijenjaju mišljenja korisnika

- Vodimo ispred Kine u AI-ju. I iskreno, želim da tako i ostane, jer tko god pobijedi u AI-ju, pobjeđuje u svemu - rekao je nedavno Trump.

Time se stvara opasna dinamika teorije igara koja podsjeća na rasprave iz pedesetih godina o prvom i drugom udaru. Obje strane imaju jasan interes usporiti razvoj najopasnijih aspekata tehnologije, ali međusobno nepovjerenje ih tjera naprijed, u strahu da će druga strana iskoristiti svaki trenutak pauze da stekne odlučujuću prednost.

U jednom od svojih posljednjih velikih eseja, objavljenom u časopisu Foreign Affairs, Kissinger je s kolegom Grahamom Allisonom iznio jasan plan akcije. Tvrdio je da, unatoč svemu, lekcije iz nuklearnog doba nude najbolji mogući vodič. Čak su i smrtni neprijatelji poput SAD-a i Sovjetskog Saveza, dok su jurili prema nuklearnoj superiornosti, uspjeli pronaći "otoke zajedničkih interesa". Shvatili su da je širenje nuklearnog oružja prijetnja za oboje, da je rizik od slučajnog rata prevelik i da je stabilnost koju donosi uzajamno zajamčeno uništenje (MAD) paradoksalno stanje koje zahtijeva suzdržanost. No, Kissinger je bio svjestan i ključnih razlika. Razvoj AI-ja ne vode vlade, već privatne tvrtke u "gladijatorskoj borbi" za profit. AI je digitalan i konceptualan, teško ga je pratiti i brojati poput nuklearnih glava. I najvažnije, napreduje i širi se brzinom koja dugotrajne pregovore čini nemogućima.

Njegov prijedlog bio je hitan i konkretan. Pozvao je na summit između američkog i kineskog predsjednika, gdje bi u izravnom razgovoru procijenili rizike i uspostavili zajedničku savjetodavnu skupinu znanstvenika iz obje zemlje. Ta neformalna "Track II diplomacija" poslužila bi kao temelj za buduće formalne pregovore. U SAD-u je zagovarao osnivanje nestranačke nacionalne komisije koja bi predložila obvezujuće mjere sigurnosti za razvoj i primjenu AI modela. Teško je biti optimist, priznao je, gledajući današnju globalnu polarizaciju. Ipak, činjenica da je svijet proživio gotovo osam desetljeća bez rata između nuklearnih sila trebala bi poslužiti kao inspiracija. Pitanje koje je Kissinger ostavio za sobom jest hoće li današnja generacija vođa pokazati istu mudrost pred izazovom umjetne inteligencije.