Do prije nekoliko godina upozorenja da bi umjetna inteligencija jednoga dana mogla izmaknuti ljudskoj kontroli uglavnom su zvučala kao scenarij za znanstvenofantastični film. Danas takve rečenice više ne izgovaraju samo filozofi, futuristi i tehnološki pesimisti. Izgovaraju ih ljudi koji su radili na najnaprednijim sustavima umjetne inteligencije na svijetu - i koji tvrde da se razvoj približava točki nakon koje bi posljedice mogle postati nemoguće kontrolirati.

Najveći potres izazvao je Jacob Coxon, istraživač koji je posljednjih godina radio u OpenAI-ju i Anthropicu. Nakon odlaska iz Anthropica javno je optužio vodeće AI kompanije da se ponašaju neodgovorno i da se utrkuju prema stvaranju sustava sposobnih za vlastito usavršavanje.

Njegovo upozorenje bilo je krajnje dramatično: ljudi koji danas stvaraju najmoćnije modele, ustvrdio je, doista smatraju mogućim da bi umjetna inteligencija mogla dovesti do nestanka čovječanstva još prije kraja desetljeća.

POBUNA STROJEVA SUDNJI DAN Hoće li nas AI sve pobiti? Čovjek iz Anthropica kaže da hoće

Coxon pritom naglašava da se ne radi o marketinškoj kampanji kojom bi tehnološke kompanije pokušavale povećati važnost vlastitih proizvoda. Tvrdi upravo suprotno - da vodeći ljudi industrije u javnosti često ublažavaju formulacije, dok privatno govore mnogo otvorenije o mogućnosti katastrofalnog razvoja događaja.

Njegove riječi dobile su dodatnu težinu kada mu se pridružio Evan Hubinger, jedan od vodećih Anthropicovih istraživača koji se bavi takozvanim usklađivanjem AI-ja, odnosno pitanjem kako osigurati da napredni modeli nastave djelovati u skladu s ljudskim ciljevima. Hubinger je javno procijenio da postoji više od deset posto izgleda da bi umjetna inteligencija u idućih deset godina mogla izazvati nestanak čovječanstva.

Što se promijenilo?

Upozorenja o umjetnoj inteligenciji nisu nova. Još 2023. više desetaka tisuća ljudi potpisalo je otvoreno pismo kojim se tražila šestomjesečna stanka u razvoju najmoćnijih AI sustava. Među potpisnicima bio je Elon Musk, a od tada su se pojavljivali brojni novi apeli za sporiji razvoj i strože sigurnosne standarde.

No ovoga puta atmosfera je drukčija.

Kako piše Foreign Policy, stručnjaci koji prate razvoj događaja govore o svojevrsnoj "savršenoj oluji": istodobno su se pojavila nova upozorenja ljudi iz samog srca industrije, konkretni primjeri neočekivanog ponašanja naprednih modela te sve veća zabrinutost zbog sposobnosti AI agenata da djeluju zajedno i autonomno izvršavaju složene zadatke.

Posebnu pozornost izazvao je slučaj o kojem je izvijestio OpenAI. Tijekom sigurnosnog testiranja jedan AI sustav uspio je napustiti ograničeno digitalno okruženje, takozvani sandbox, te pristupiti vanjskim sustavima povezanim s platformom Hugging Face. Još je neugodnije bilo otkriće da nije djelovao sam, nego u koordinaciji s velikim brojem drugih AI agenata.

UPOZORENJE Kissingerovo posljednje proročanstvo: Prije smrti je shvatio što se sprema

Takvi eksperimenti ne znače da je umjetna inteligencija već sposobna samostalno "preuzeti internet", ali su pokazali koliko se brzo mijenja priroda tehnologije. Umjesto jednog chatbota koji čeka pitanje korisnika, budući sustavi mogu uključivati stotine ili tisuće agenata koji međusobno dijele zadatke, pišu kod, traže sigurnosne rupe, koriste računalne alate i donose niz odluka uz minimalan ljudski nadzor.

Upravo takav razvoj zabrinjava izvršnog direktora Anthropica Darija Amodeija. On je upozorio da bi, nastavi li se sadašnja brzina napretka, za šest do 12 mjeseci sustavi sastavljeni od velikog broja AI agenata mogli postati dovoljno sposobni da predstavljaju ozbiljnu prijetnju čitavoj internetskoj infrastrukturi.

Amodei traži usporavanje, konkurenti se slažu

Posebno je neobično što pozivi na oprez više ne dolaze samo od vanjskih kritičara tehnološke industrije.

Amodei je posljednjih dana otvoreno zatražio usporavanje razvoja najnaprednijih modela i snažniju ulogu država u nadzoru tehnologije. Podržali su ga neki od najvećih konkurenata: šef OpenAI-ja Sam Altman, Elon Musk te izvršni direktor Google DeepMinda Demis Hassabis.

Takvo jedinstvo gotovo je nezabilježeno u industriji u kojoj se kompanije bore za talente, računalne čipove, investicije i dominaciju na tržištu koje bi moglo vrijediti bilijune dolara.

Amodei upozorava na nekoliko različitih scenarija. Jedan je masovna upotreba AI-ja za kibernetičke napade. Drugi je mogućnost da napredni modeli ljudima bez velikog stručnog znanja olakšaju razvoj biološkog oružja. Treći je situacija u kojoj bi AI sustavi postali dovoljno autonomni da počnu skrivati svoje namjere, manipulirati ljudima ili izbjegavati pokušaje kontrole.

Najproblematičnija je ideja rekurzivnog samousavršavanja. U tom scenariju umjetna inteligencija postaje dovoljno sposobna da sama pomaže u stvaranju još sposobnijih modela. Svaka nova generacija zatim ubrzava razvoj sljedeće. Ako bi taj proces bio dovoljno brz, ljudi bi mogli izgubiti mogućnost razumijevanja, a zatim i kontrole nad sustavom.

To je teorijski scenarij i među stručnjacima ne postoji suglasnost ni hoće li se ikada dogoditi ni koliko smo mu blizu.

Ali upravo je brzina posljednjih pomaka promijenila ton rasprave.

Zašto bi kompanije upozoravale na vlastiti proizvod?

Postoji, međutim, očita kontradikcija. Kompanije poput OpenAI-ja i Anthropica istodobno tvrde da bi njihov proizvod mogao predstavljati katastrofalnu opasnost – i ulažu goleme količine novca da ga što prije učine još moćnijim.

Zbog toga dio kritičara smatra da iza apokaliptičnih upozorenja postoji i poslovni interes. Ako države uvedu izrazito skupe sigurnosne standarde, najveće kompanije moći će ih ispuniti, dok bi mali konkurenti mogli nestati s tržišta. U tehnološkom sektoru to se često opisuje pojmom "regulatorno zarobljavanje": vodeće kompanije podržavaju regulaciju koja istodobno otežava ulazak njihovim konkurentima.

Amodei priznaje da se Anthropic redovito suočava s optužbama za pretjerivanje, širenje panike i pokušaj oblikovanja regulacije u svoju korist.

CRNI SCENARIJI Strah od AI apokalipse: Što ako ga više nećemo moći zaustaviti i ugasiti?

No Kat Duffy iz američkog Council on Foreign Relationsa smatra da je teško objasniti zašto bi kompanijama pred izlazak na burzu koristila poruka da stvaraju tehnologiju koja bi mogla ugroziti čovječanstvo. Argument da se sve radi samo o PR-u, smatra ona, zato nije osobito uvjerljiv.

Trump: Sve je to prevara

Dok dio Silicijske doline poziva političare da interveniraju, Donald Trump zauzeo je gotovo potpuno suprotan stav.

Američki predsjednik odbacio je upozorenja o gubitku kontrole nad umjetnom inteligencijom i ideju novih velikih regulatornih ograničenja. U objavama na Truth Socialu strahove da bi AI mogao zavladati svijetom ili uništiti čovječanstvo nazvao je "prevarom".

Trumpov je glavni argument geopolitički: ako Washington uspori američke kompanije, Kina neće učiniti isto.

Njegov tehnološki savjetnik David Sacks slična upozorenja opisuje kao poznati obrazac zastrašivanja javnosti. Njihov je stav da kompanije trebaju odgovarati za štetu koju njihovi proizvodi eventualno izazovu, ali da stvaranje novog velikog regulatornog aparata nije nužno.

Problem je u tome što upravo natjecanje SAD-a i Kine čini eventualno usporavanje gotovo nemogućim.

Američka kompanija koja odluči šest mjeseci ne razvijati novi model riskira da je prestigne konkurent. Ako sve američke kompanije uspore razvoj, Washington strahuje da bi prednost mogao preuzeti Peking. A ako bi se SAD i Kina pokušali dogovoriti, obje bi strane morale vjerovati da ona druga sporazum doista poštuje.

Trump i Xi pred istim problemom

AI bi zato mogao postati i jedna od važnih tema predstojećeg susreta Trumpa i kineskog predsjednika Xi Jinpinga.

Dio tehnološke industrije nada se barem minimalnom dogovoru dviju supersila o najopasnijim primjenama umjetne inteligencije – nekoj vrsti digitalnog ekvivalenta sporazuma o kontroli nuklearnog naoružanja.

No zasad nema mnogo znakova da je takav dogovor blizu.

Kineski državni Global Times Amodeijeve prijedloge za usporavanje razvoja predstavio je kao dio američkog pokušaja tehnološkog obuzdavanja Kine. Peking ne želi prihvatiti sustav u kojem Washington određuje pravila, posebno ako bi ta pravila uključivala ograničenja pristupa naprednim čipovima i drugoj tehnologiji.

Kineska vlada istodobno tvrdi da podržava međunarodno upravljanje umjetnom inteligencijom, ali naglašava da bi se ono trebalo odvijati preko Ujedinjenih naroda, a ne prema pravilima koja bi dogovarali Washington i nekoliko najvećih američkih kompanija.

Foreign Policy pritom upozorava na temeljni paradoks cijele rasprave: čak i ako ljudi koji razvijaju najmoćnije sustave iskreno vjeruju da postoji mogućnost katastrofe, nacionalna konkurencija tjera ih da nastave dalje. Amerikanci strahuju od Kine, Kinezi od američke dominacije, a kompanije od toga da će ih prestići konkurenti.

Opasnost ili nova moralna panika?

Nisu svi stručnjaci uvjereni da su katastrofične prognoze opravdane.

Kritičari upozoravaju da današnji sustavi još uvijek ozbiljno griješe, ovise o ljudskoj infrastrukturi i nemaju sposobnosti kakve im pripisuju najdramatičniji scenariji. Čak i kada model može otkriti sigurnosnu ranjivost ili predložiti konstrukciju nekog opasnog biološkog sredstva, između digitalne informacije i stvarne katastrofe postoji čitav niz fizičkih, logističkih i ljudskih prepreka.

Nema ni znanstvenog konsenzusa da će takozvana superinteligencija uopće nastati. Ali rasprava se očito promijenila.

Prije nekoliko godina središnje pitanje bilo je hoće li AI pisati školske zadaće, stvarati lažne fotografije ili zamijeniti dio zaposlenika. Danas dio ljudi koji tu tehnologiju neposredno razvijaju javno raspravlja o tome može li se dogoditi trenutak u kojem će sustavi postati sposobniji od svojih tvoraca, mogu li se međusobno organizirati i hoće li ih biti moguće zaustaviti.

Možda se pokaže da su najcrnje prognoze bile pretjerane. No u jednoj stvari postoji neobična suglasnost čak i među sukobljenim stranama: umjetna inteligencija napreduje nevjerojatno brzo. A najveći problem možda nije to što nitko ne zna gdje je granica. Problem je, navodi Foreign Policy, što se trenutačno svi utrkuju da je prijeđu prvi.