Doomsday priča o umjetnoj inteligenciji nije jedan argument nego paket: egzistencijalni strah, poziv na državnu kontrolu, moralni prestiž onih koji vide "dalje od ostalih" i medijski model koji živi od katastrofe. Treći i četvrti sloj (karijera i klikovi) logično slijede iz poticaja prva dva sloja.

Pritom treba razdvojiti tri stvari koje se stalno miješaju: (1) tko ima korist od regulacije, (2) koliko je vjerojatna apokalipsa, (3) hoće li AI zamijeniti ljudski rad. Prvo je najjače dokumentirano. Drugo je spekulacija odjevena u znanstveni ton. Treće je stvarno, ali nije "kraj posla".

Regulacija kao zaštita položaja, ne kao pokajanje

Misesov argument je klasičan i ovdje dobro sjeda: veliki igrači ne traže pravila zato što žele biti sputani, nego zato što žele da pravila budu skupa, tehnička i teško provediva za svakoga tko nije već unutra. Na taj način oni postaju zaštićeni na vrhu, nedodirljivi. A svakome tko bi im htio postati konkurencija put je bitno otežan, možda i nemoguć.

Povijesni obrazac nije nov. Dobrovoljni karteli se raspadaju jer novi ulaz lako razbije dogovor. Državna agencija, obavezni safety testovi, certifikacija modela i pravo da se "u javnom interesu" zabrani novo izdanje - to više nije slobodno tržište, to je dozvola za rad. Trošak usklađivanja raste s kompleksnošću modela. OpenAI, Anthropic i Google to mogu platiti. Garažni lab, otvoreni model i inozemni konkurent teže. To nije slučajna posljedica, to je mehanika s jasnom namjerom.

Isti motiv vidi se i izvan libertarijanskog kruga. Yann LeCun optužuje Anthropic da "straši sumnjivim studijama" kako bi se open-source regulirao do smrti. David Sacks govori o "sofisticiranoj strategiji regulatory capturea na temelju širenja straha". Politico, The Register i drugi izvori ponavljaju isto: obavezni vanjski auditi i sporiji tempo razvoja privilegiraju one koji već imaju kapital, pravnike i pristup regulatorima.

To ne dokazuje da su svi rizici izmišljeni. Dokazuje da je "regulirajte nas" racionalan poslovni potez čak i ako je briga za sigurnost iskrena. Iskrenost i interes nisu međusobno isključivi. Ali ponašanje CEO-a nije ponašanje ljudi koji vjeruju da im tehnologija za tri godine gasi vrstu. Oni i dalje skupljaju kapital, zapošljavaju, grade veće modele i pregovaraju o pravilima koja će pisati uz njihov stol. Ako je izumiranje blizu, i ako su u to toliko uvjereni, onda je njihovo ponašanje u najmanju ruku čudno. Ako je cilj zacementirati prednost u mladoj industriji, ponašaju se točno onako kako bi se očekivalo.

Kult, slava i "očekivana vrijednost" apokalipse

Kathleen Stock na UnHerdu ide korak dalje od ekonomske sumnje: doomerski sloj nije samo PR nego subkultura. Effective Altruism i racionalistička mreža tretiraju etiku kao knjigovodstvo. Ako je izumiranje beskonačno loš ishod, čak i mala vjerojatnost postaje apsolutni prioritet. Iz toga slijedi pravo na izvanredan moralni status: tko "računa" bolje, smije govoriti u ime vrste.

Tu je analogija s COVID-om korisna, ali treba je držati preciznom. Nije riječ o tome da su svi znanstvenici lažljivci. Riječ je o tome da ekstremni scenarij daje status, grantove, naslovnice i osjećaj povijesne važnosti. Tko kaže "ovo je malo rizično i treba inženjerski oprez", ostaje tehničar. Tko kaže "ovo može pokupiti čovječanstvo", postaje prorok. Mediji to vole jer se prorok bolje klikne od inženjera. Coxonova ostavka i Amodeijevi eseji nisu slučajno otišli u desetke ili stotine milijuna pregleda. Tamna najava je najjeftiniji viral.

Stock dobro zapaža unutarnju nelogičnost. Ako stvarno vjeruješ da model koji gradiš može pobiti sve, zašto ga i dalje gradiš, zapošljavaš i pripremaš IPO? Odgovor iz te scene obično glasi: "da nas nema, bilo bi još gore". To je neoborivo. Svaki nastavak rada, svaki veći budžet i svaka nova ovlast mogu se opravdati istom rečenicom. Zato to više nije samo hipoteza o riziku nego zatvoren moralni sustav.

Drugi problem "alignmenta" koji Stock ističe često se prešućuje: uskladiti stroj s "ljudskim vrijednostima" pretpostavlja da te vrijednosti postoje kao jedan skup. Ne postoje. Ljudi se ne slažu ni oko sladoleda, a kamoli oko vlasti, slobode, religije, rata i reprodukcije. Ono što se u praksi nudi kao univerzalna etika obično je uski silikonski liberalizam plus utilitaristički spreadsheet. To nije tehnički problem. To je politički problem prerušen u inženjerski.

Hoće li AI "uzeti radna mjesta" i hoće li nas pobiti?

Ovdje treba odbiti i apokalipsu i naivni "ništa se neće dogoditi".

Poslovi. Tehnologija povijesno ne uništava rad kao takav, nego mijenja koje se zadatke plaća. Parna mašina, elektrika, računalo i internet nisu ukinuli zaposlenost, ali su uništili konkretna zanimanja i stvorili nova. AI je za sada prije svega stroj za jezik, sliku, kod i rutinu. To udara na prevođenje, korisničku podršku, draftanje tekstova, osnovno programiranje, dio pravnih i administrativnih poslova, vizualni predložak. Ne udara jednako na njegu, fizikalni rad, povjerenje, odgovornost, pregovaranje i institucije. Reći "neće uzeti naša mjesta" apsolutno je pretjerano za pojedine profesije. Reći "doći će masovna, trajna nezaposlenost jer stroj misli bolje od čovjeka" zasad je projekcija, ne podatak.

Realniji scenarij je polarizacija: produktivnost raste tamo gdje čovjek dobro koristi alat, a srednji sloj rutinskog kognitivnog rada se stanjuje.

Istrebljenje. Skok od "model je prekršio pravilo u testu" do "rekurzivno se poboljšava i gasi ljudsku vrstu" nije inženjerski dokaz nego metafizika s GPU-ima. Današnji sustavi nemaju ciljeve u smislu bića koje želi opstati, širiti se i ukloniti prepreke. Imaju statistiku sljedećeg tokena, alate i poticaje koje im ljudi daju. Mogu lagati, varati na testu, izaći iz sandboxa, napisati malware ili pogoršati dezinformaciju. To su ozbiljni, prizemni rizici. Nisu isti kao Terminator. P(doom) brojke - 10%, 25%, "do kraja desetljeća" - nisu mjerenja. To su subjektivne oklade subkulture koja je godinama investirala identitet u tu priču.

Zato je korisno okrenuti pitanje: koji su rizici dovoljno stvarni da ne trebaju kult?

- koncentracija računalne moći, podataka i modela u nekoliko firmi
- regulatory capture koji uguši otvorene modele i manje igrače
- nadzor, propaganda, automatizirano prepoznavanje i vojna uporaba
- pravna neodgovornost ("model je sam odlučio")
- gubitak vještina i preveliko povjerenje u generator teksta
- ekonomski šok u uskim zanimanjima

To su problemi moći, poticaja i institucija. Ne trebaju mit o stroju-bogu.

Što iz toga slijedi

Kritički stav prema doomsday najavama nije "AI je bezopasan". To je tvrdnja da se katastrofični jezik previše dobro poklapa s interesima onih koji ga izgovaraju. Giganti dobivaju državni krov. Proroci dobivaju slavu. Portali dobivaju klik. Publika dobiva osjećaj da prati sudbinu vrste, umjesto dosadnu raspravu o trošku usklađivanja, autorskim pravima, odgovornosti i otvorenom kodu.

Najgore što se može dogoditi nije samo to da nas AI "poubija". Najgore je da se pod izlikom spasa čovječanstva izgradi kartel s pečatom javnog interesa, a da se stvarni, već vidljivi učinci - na rad, na informaciju, na koncentraciju moći - tretiraju kao sporedna stvar jer nisu dovoljno filmski.