Esejom "We must pace the Frontier" koji je objavio u subotu, 12. rujna, Dario Amodei poručio je nešto neobično za industriju koja živi od brzine. Šef Anthropica, tvrtke koja stoji iza chatbota Claude, zatražio je da se uspori razvoj umjetne inteligencije jer, kako je naglasio, ona napreduje brže nego što je istraživači mogu razumjeti i kontrolirati. To je zaključio na temelju dvije činjenice: AI sve bolje gradi iduću generaciju sebe same, a situacija je postala alarmantna nakon što su u srpnju autonomni agenti na OpenAI-jevu modelu provalili u sustave Hugging Facea.
Na pisanje spomenutog eseja jedan od najmoćnijih ljudi AI industrije nije se odlučio slučajno. Tjedan prije tog njegovog poteza, istraživač Jacob Coxon napustio je Anthropic, uz obrazloženje da se vodeće tvrtke "kockaju našim životima", dok ljudi koji grade tehnologiju i sami vjeruju da bi nas mogla ubiti do kraja desetljeća. Amodeijevo rješenje za tu zabrinjavajuću situaciju podrazumijeva tri koraka: neovisne evaluatore s pristupom AI modelima, dogovor vodećih tvrtki demokratskih zemalja o zajedničkim standardima i ograničenju tempa te, koliko je moguće, koordinacija s Kinom. Prvi korak Anthropic je odlučio uvesti neovisno o drugima. Usporavanje, piše Amodei, ne znači zaustavljanje: napredak će i dalje djelovati brzo, ali dobiveno vrijeme treba mudro iskoristiti.
Da je Amodei u pravu poručio je i Elon Musk, a nekoliko sati nakon eseja koji je uznemirio dio javnosti, javio se i čovjek od kojeg se to najmanje očekivalo. Sam Altman, šef OpenAI-ja, napisao je da se slaže s Amodeijem te je obećao da će OpenAI također dozvoliti vanjske evaluatore. Kritičari pak sumnjaju u iskrene namjere šefova velikih AI kompanija. Kako prenosi TechCrunch, novinar Brian Merchant upozorava kako bi takav scenarij mogao dovesti do tzv. regulatornog zarobljavanja, što bi samo koristilo Anthropicu i OpenAI-ju.
Da je situacija s kontrolom AI modela (ili izostankom iste) zaista zabrinjavajuća javnost je mogla zaključiti i po tome što su isti stav oko spomenute teme zauzeli ljuti protivnici Amodei i Altman. Iako su danas konkurencija, nisu oduvijek suparnici. Amodei je 2016. došao u OpenAI kako bi vodio razvoj modela GPT-2 i GPT-3. Kako u njegovoj biografiji navodi Keach Hagey, prve su pukotine u njihovu odnosu nastale kad se izborio da Greg Brockman, predsjednik uprave OpenAI-ja ne uđe u tim za GPT-3, a s vremenom su razlike u pogledu sigurnosti i tempa objava između Amodeija i Altmana samo rasle. Prijateljima je, piše Hagey, govorio kako je osjećao da ga Altman psihološki zlostavlja, a Altman je istovremeno kolegama govorio kako mu stalna napetost zagorčava posao. Ljubav je do kraja pukla u prosincu 2020., kada je Amodei s nekolicinom kolega napustio tvrtku. U studenom 2023., kad je odbor OpenAI-ja odbor nakratko izbacio Altmana iz igre, upravo je Amodeiju ponuđeno njegovo mjesto i spajanje OpenAi-ja i njegovog Anthropica, kako je prenio Reuters, no Amodei je to odbio. Altman je ubrzo vraćen na čelo tvrtke, a pokušaj pridobivanja njegova rivala dodatno je produbio jaz u njihovu odnosu. Koliko je on dubok moglo se vidjeti u veljači 2026., na summitu u Indiji, kada su se, od svih sudionika skupa, jedino njih dvojica odbila primiti za ruke. Ta je fotografija postala simbol hladnog rata dviju tvrtki.
No, tko je zapravo Dario Amodei? Rođen je 1983. u San Franciscu. Otac Riccardo, talijansko-američki kožar iz Toskane, umro je kad je Dario bio mlad. Majka Elena Engel, Amerikanka židovskog podrijetla iz Chicaga, radila je kao voditeljica projekata u knjižnicama. Amodei je završio gimnaziju Lowell, počeo studirao je na Caltechu, fiziku diplomirao na Stanfordu, a doktorirao biofiziku na Princetonu, s disertacijom o električnoj aktivnosti neuronskih krugova, za što je dobio nagradu zaklade Hertz. Nakon postdoktorata na medicinskom fakultetu Stanforda radio je u Baiduu, pa u OpenAI-ju.
Njegova sestra Daniela, mlađa četiri godine, koja mu je danas desna ruka i glavna partnerica u tvrtci, u to je okruženje stigla iz posve drugačijeg svijeta: studirala je englesku književnost uz stipendiju za flautu, radila u politici, pa u Stripeu, a u OpenAI-ju je bila potpredsjednica za sigurnost i politiku. Danas je predsjednica Anthropica, a udana je za Holdena Karnofskyja, suosnivača filantropske organizacije nastale iz pokreta efektivnog altruizma. Obično se kaže da Dario vodi istraživanje i viziju, a Daniela poslovanje i ljude. Njih su dvoje s još petoricom kolega osnovali tvrtku, koja danas slovi za jednu od najmoćnijih u AI industriji. Ime Anthropicizabrano jer mu je, kako je svojedobno prenio Alex Kantrowitz na Mediumu, u središtu čovjek, što također aludira na važnost korištenja umjetne inteligencije za dobrobit čovječanstva. U igri su još bila imena Aligned AI, Generative, Sponge, Swan, Sloth, and Sparrow Systems, ali Anthropicje pobijedio jer je u tome trenutku, među ostalim, baš ta domena bila slobodna.
Iako nije zaposlena u Anthropicu, uz sestru, jedan od glavnih savjetnika i oslonaca Amodeiju je supruga Camilla Cami Clark o kojoj javnost zna jako malo. Zanimljivo, ni Claude o njoj ne otkriva nikakve podatke, čak niti ime. Poznato je, međutim, da se njezino ime pojavilo o famoznim dokumentima vezanima uz seksualnog prijestupnika Jeffreya Epsteina. Kako je nedavno pisao Forbes, Clark je prije petnaestak godina od Epsteina tražila da uloži u njezinu tvrtku za kreiranje sadržaja za odrasle, no nema traga da je Epstein to i učinio. Časopis Time Amodeija je 2025. i 2026. uvrstio među sto najutjecajnijih ljudi, a na kraju 2025. i među "arhitekte AI-ja", kako je prenio BBC.
Od ostalih šefova velikih AI sustava Amodei se razlikuje i po tome što piše dugačke eseje. Sam odabir forme, u vrijeme kada svijet preferira kratke, ''blic'' poruke, vrlo je zanimljiv i neobičan. U eseju "Machines of Loving Grace" (2024.) opisao je što AI može donijeti medicini i gospodarstvu. U siječanjskom eseju "The Adolescence of Technology" zamislio je pak "državu genijalaca u podatkovnom centru", pedeset milijuna sustava sposobnijih od svakog nobelovca, koja bi se mogla pojaviti već oko 2027., i razložio rizike: sustave koji razviju neusklađene ciljeve, zlouporabu za biološko oružje, autoritarne države i gospodarske potrese, uključujući mogući nestanak polovice početnih uredskih poslova u roku od jedne do pet godina. Kritičari su mu pritom zamjerili tvrdnju kako zabrinutost pojedinaca oko potrošnje vode i energije u podatkovnim centrima odvlači pažnju od ''pravih'' egzistencijalnih prijetnji. U njegovim tezama prepoznali su i svojevrsni paradoks: Amodei piše kao neutralni liječnik koji dijagnosticira opasnu "adolescenciju" tehnologije i propisuje lijek, no zapravo je i sam jedan od nekolicine igrača koji vode ovu globalnu utrku. Tako njegov prijedlog pravila, smatraju kritičari, ujedno gradi sliku upravo Anthropica kao najodgovornijeg među njima.
Uz esej je stiglo i obećanje: svih sedam osnivača Anthropica obvezalo se odreći 80 posto svoje imovine u korist humanitarnih projekata jer se, kako je obrazložio sam Amodei, najviše treba bojati koncentracije bogatstva koja može slomiti društvo. Forbes je u veljači vrijednost tog obećanja procijenio na 39,2 milijarde dolara, a nakon posljednjeg kruga financiranja svaki osnivač ''vrijedi'' 15,5 milijardi, tako da je danas spomenuti iznos znatno veći.
Jedna od najvećih kontroverzi vezanih uz Anthropic možda je njegov "Project Panama", pokrenut početkom 2024. Prema internom dokumentu koji je postao javan tijekom kasnijeg sudskog procesa, bio je to pokušaj da Anthropic skenira sve knjige svijeta kako bi poboljšao svoje AI modele. Problem je bio u tome što su tijekom tog postupka sve knjige uništene, pisao je svojedobno Euronews. U istom dokumentu stoji kako se projekt trebao provesti u tajnosti, a podrazumijevao je nabavu te skeniranje i uništavanje između 500 tisuća i dva milijuna knjiga tijekom šest mjeseci. Tijekom samog postupka hidraulički je stroj rezao hrptove knjiga, stranice su skenirane, a papir se reciklirao, što je tvrtku stajalo na desetke milijuna dolara. Glavni cilj bio je naučiti Claude da piše kvalitetno, umjesto da oponaša "loš internetski govor". Sudac u kupnji i digitalizaciji legalno kupljenih knjiga nije vidio ništa nedozvoljeno, no pokazalo se kako je tvrtka ranije koristila i piratske biblioteke iz kojih su skenirani milijuni naslova. Zbog toga je Anthropic pristao na nagodbu od 1,5 milijardi dolara, otprilike 3000 dolara po knjizi za autore, koju je sud odobrio u srpnju. Iz tvrtke su poručili da ne uništavaju rijetke knjige nego teže dostupne stručne naslove. Nakon izbijanja ove afere, mnogi su se na društvenim mrežama, pola u šali, a pola ozbiljno, zapitali što na sve to kaže majka prvog čovjeka Anthropica, žena koja je, desetljećima radeći u knjižnicama, život posvetila baš knjigama.
Anthropic i Amodei medijske su stupce punili i zbog sukoba s Pentagonom. Anthropic je, naime, u veljači ove godine odbio ukloniti ugovorne zabrane uporabe Claudea za masovni nadzor građana i potpuno autonomno oružje. Ministar obrane Pete Hegseth zato ga je proglasio rizikom za opskrbni lanac, što je do tada bila etiketa rezervirana za tvrtke koje bi se povezivalo s potencijalnim vanjskim neprijateljima SAD-a. Istovremeno, američki predsjednik Donald Trump naredio je saveznim agencijama da prestanu koristiti Claude. Anthropic je u sudskom podnesku procijenio da bi mogao izgubiti stotine milijuna, pa i više milijardi dolara prihoda. Tvrtka je stoga tužila vladu. U ožujku je sutkinja Rita Lin izdala privremenu zabranu, no kako je prenio CNBC, žalbeni sud u Washingtonu u travnju je odbio zaustaviti drugo označavanje dok spor traje. U kolovozu je sutkinja Lin presudila da je Pentagon nezakonito kaznio Anthropic zbog njegovih javnih kritika vojne politike prema AI-ju. Iz Pentagona su ipak poručili da Anthropic i dalje vode kao ''rizik'', iako je ministar trgovine Howard Lutnick istodobno dao naslutiti da se odnosi s Washingtonom popravljaju.
Unatoč tome, poslovanje tvrtke raste rekordnom brzinom. Anthropic je, prema vlastitim izvješćima, u veljači prikupio 30 milijardi dolara uz vrijednost od 380 milijardi, a u svibnju 65 milijardi uz 965 milijardi dolara, čime je prestigao OpenAI. Godišnji prihod, prema procjeni na temelju tekućeg poslovanja, prešao je 65 milijardi dolara krajem srpnja, prema oko devet milijardi na kraju 2025. Prihod u drugom tromjesečju premašio je 11,5 milijardi dolara, prema prijavljenim podacima usporedivo s 787 milijuna godinu ranije, a izvješća govore i o prvim naznakama dobiti na operativnoj razini. Prema neslužbenim izvješćima, izlazak na burzu mogao bi uslijediti već u jesen, uz vrijednost do dvije tisuće milijardi dolara, no javnu prijavu tvrtka do 19. rujna nije podnijela, piše The Market Periodical.
Spomenute brojke dodaju ulje na vatru Amodeijevih kritičara koji ne mogu prihvatiti činjenicu da tvrtka kojoj je na čelu čovjek koji traži usporavanje istovremeno raste brže od gotovo ikoje u povijesti softvera. Jednako tako, pitaju se kako je moguće da Amodei obećava kako će većinu bogatstva razdijeliti, a istodobno tvrtku planira izvesti na burzu. Čovjek je to koji upozorava na koncentraciju moći, a upravo je on jedan od rijetkih koji tu istu moć drži u svojim rukama.
