Pisci, arhivisti, povjesničari i kolekcionari knjiga pokrenuli su internetsku kampanju protiv tehnoloških divova i tvrtki koje razvijaju umjetnu inteligenciju. Sve je više dokaza da te kompanije masovno kupuju rijetke i antikvarne knjige, digitaliziraju ih za treniranje svojih AI modela, a potom hladnokrvno uništavaju originalne primjerke. Praksa, koja je izazvala zgražanje javnosti, otkriva mračnu stranu utrke za podacima, u kojoj se kulturna baština pretvara u sirovinu, a knjige postaju potrošna roba na putu do naprednijih algoritama, piše Forbes.

"Projekt Panama": Simbol nove industrijske prakse

Priča koja je zgrozila ljubitelje pisane riječi izašla je na vidjelo kroz sudske dokumente u slučaju Bartz protiv tvrtke Anthropic. Interni dopisi otkrili su postojanje tajnog projekta pod kodnim imenom "Projekt Panama", čiji je cilj bio, kako je bez uvijanja navedeno, "destruktivno skenirati sve knjige na svijetu". Uprava tvrtke savjetovala je diskreciju, ističući da se kodno ime koristi upravo zato što "ne žele da se zna da rade na ovome". Destruktivno skeniranje bilo je Anthropicovo rješenje za gorući problem: kako doći do ogromnog, visokokvalitetnog jezičnog korpusa nastalog prije 2022. godine i "zagađenja" interneta tekstovima koje su generirali sami AI modeli.

Knjige, sa svojim "dobro probranim činjenicama, organiziranim analizama i zadivljujućim fiktivnim narativima", predstavljale su idealan izvor podataka. Tvrtka se našla pred izborom: mogli su zatražiti dozvole za korištenje postojećih e-knjiga, što bi uključivalo, kako je to opisao izvršni direktor, "pravnu, praktičnu i poslovnu muku" pregovora s vlasnicima autorskih prava. Umjesto toga, Anthropic je prvo posegnuo za piratskim izvorima, odluka koja ih je kasnije stajala nagodbe s autorima teške 1,5 milijardi dolara. Kada se i taj pristup pokazao pravno prerizičnim, okrenuli su se fizičkim knjigama. Angažirali su iskusne logističare, nabavili knjige od preprodavača rabljenih izdanja, unajmili osoblje i skladišta te pronašli tvrtku za digitalizaciju. Proces je bio brutalan i efikasan: knjigama su rezani hrptovi i rubovi, stranice su se velikom brzinom provlačile kroz industrijske skenere, a papirnati originali su se potom bacali, završavajući kao reciklažni otpad ili na smetlištu. Dokumenti iz postupka otkrivaju da je tvrtka u samo šest mjeseci planirala obraditi između 500.000 i dva milijuna knjiga.

NOVA ZNANSTVENA ERA Scenarij iz noćne more ili spas? Što znamo o 16 virusa koje je dizajnirao AI

Postavlja se pitanje zašto se tvrtke upuštaju u tako kontroverznu praksu. Odgovor leži u kombinaciji pravnih rupa i očajničke potrebe za kvalitetnim podacima koji nisu kontaminirani umjetnom inteligencijom.

Američki sudovi odigrali su ključnu ulogu u legalizaciji ovog procesa. U presudnom slučaju protiv Anthropica, sudac William Alsup presudio je da korištenje vlasničkog materijala za "treniranje" jezičnog modela samo po sebi ne predstavlja kršenje autorskih prava. Ključni pravni koncepti su "načelo prve prodaje" (first-sale doctrine) i "poštena upotreba" (fair use). Načelo prve prodaje dopušta vlasniku legalno kupljene fizičke kopije, poput knjige, da s njom radi što želi: može je preprodati, pokloniti ili uništiti. Sud je zatim zaključio da je pretvaranje te fizičke kopije u digitalnu datoteku u svrhu internog treniranja modela "transformativna" upotreba. Budući da je Anthropic uništio original, "jedna kopija zamijenila je drugu", kako je slikovito objasnio sudac, te nije došlo do stvaranja novih kopija koje bi se distribuirale na tržištu. Ova presuda dala je svim AI tvrtkama legalan recept za zaobilaženje autorskih prava. Umjesto da plaćaju licence autorima, dovoljno je kupiti fizičku knjigu i uništiti je nakon skeniranja.

Drugi, možda i važniji razlog jest sve veća kontaminacija interneta. Kako generativni AI modeli postaju sveprisutni, online prostor se puni tekstovima koje su stvorili strojevi. Treniranje novih modela na takvim podacima dovodi do fenomena poznatog kao "kolaps modela" (model collapse), gdje AI uči od vlastitih, često osiromašenih i nelogičnih izlaznih podataka, što rezultira degradacijom kvalitete. Stoga su tiskane knjige objavljene prije 2022. godine postale svojevrsni sveti gral. One predstavljaju konačan, ograničen resurs zajamčeno čistog, ljudski napisanog teksta. Tvrtka ISBNdb, koja održava golemu bazu podataka o knjigama, jedno je vrijeme otvoreno nudila usluge posredovanja AI kompanijama, reklamirajući kako se "najbolji podaci za treniranje AI-ja na svijetu nalaze na policama". U svom su promotivnom materijalu, koji je kasnije izbrisan s interneta, objašnjavali: "Tiskane knjige iz ere prije velikih jezičnih modela strukturalno su zajamčeno slobodne od ove kontaminacije." Svjesni negativnog publiciteta, čak su upozoravali klijente: "Problem percepcije je stvaran. 'AI tvrtka uništila dva milijuna knjiga' nije naslov koji izaziva suosjećanje."

Učinci ove nove industrije osjećaju se diljem svijeta. Knjižari i antikvari u Nizozemskoj, Njemačkoj, Švicarskoj, Irskoj i Sjedinjenim Državama počeli su prijavljivati krajnje neobične, masovne narudžbe. Kupci, često skriveni iza posredničkih tvrtki, naručivali bi stotine, pa i tisuće knjiga odjednom. Izbor je bio potpuno nasumičan: stare biografije, opskurni poljoprivredni priručnici, rasprodana stručna literatura. Jedan prodavač rabljenih knjiga izjavio je za portal 404 Media da je s prodaje od dvadesetak knjiga tjedno odjednom skočio na stotine, a kupce nije zanimala vrijednost pojedinih naslova. Irski lanac knjižara Kennys Bookshop javno je objavio da je odbio "suludu" narudžbu za 5000 opskurnih naslova, prepoznavši je kao potencijalnu nabavu za AI tvrtku. Naveli su da je jasan znak za uzbunu bio nedostatak bilo kakvog pokušaja pregovaranja o cijeni.

Atak na Hugging Face Pobuna strojeva: Kako je AI probio sandbox i našao šalabahter? Paradoks istrage

Istraga koju je proveo portal 404 Media otkrila je i konkretnu destinaciju barem dijela tih knjiga. Novinari su, u suradnji s jednim prodavačem, u pošiljku rijetkih knjiga sakrili Apple AirTag uređaj za praćenje. Nakon putovanja preko nekoliko američkih saveznih država, pošiljka je završila u Amazonovom skladištu u Las Vegasu, kodne oznake "VGT3". Zaposlenici tog postrojenja potvrdili su da se njihov posao svodi na primanje masovnih pošiljki knjiga, rezanje njihovih uveza i brzo skeniranje, nakon čega se originali uništavaju. Ironično, logo tima VGT3 prikazuje dinosaura koji se sprema pojesti knjigu.

Dok tehnološke tvrtke tvrde da je ovo nužan korak u razvoju tehnologije, mnogi strahuju od nepovratnog gubitka kulturne baštine. Postoji realna opasnost da se uništavaju posljednji preostali primjerci rijetkih i zaboravljenih djela, knjiga koje nikada nisu digitalizirane i koje sada nestaju zauvijek. Ova industrijska praksa u oštrom je kontrastu s radom organizacija poput Internet Archivea, koje desetljećima pažljivo digitaliziraju knjige s ciljem njihova očuvanja. Njihovi skeneri, poput Elize Zhang koja je ručno okrenula i skenirala više od tri milijuna stranica, rade polako i pedantno kako ne bi oštetili krhke i stare primjerke. "Čiste, suhe ljudske ruke najbolji su način za okretanje stranica", poručuju iz Arhiva.

Neke tvrtke, svjesne lošeg publiciteta, pokušavaju se distancirati od ove prakse. OpenAI i Microsoft surađuju s knjižničarima s Harvarda na projektu digitalizacije javno dostupnih knjiga, dok je Elon Musk izjavio da je svom timu u xAI-ju naredio da "sačuvaju sve rijetke knjige u knjižnici i skeniraju ih na teži način". Ipak, kritičari ostaju skeptični, ističući da nije jasno definirano što se smatra "rijetkom" knjigom te da takve izjave ne isključuju uništavanje milijuna drugih, "običnih" naslova. U konačnici, najviše zabrinjava činjenica da je tvrtkama poput Anthropica bilo lakše i jeftinije kupiti i uništiti "sve knjige na svijetu" nego platiti autorima za njihov rad.