Za razliku od prošlosti u kojoj su generacije sporo prenosile mudrost s verom da će ona i dalje važiti, danas u okviru samo jednog ljudskog veka prolazimo kroz tri istovremene revolucije: pojavu inteligencije koja donosi odluke, globalnu borbu za kontrolu nad njom i eksploziju podataka koji joj omogućavaju da nas poznaje bolje nego što poznajemo same sebe. Ljudsko društvo ne pokreće gola istina, već zajedničke priče poput zakona, religije i novca, pa onaj ko kontroliše priču, kontroliše i celokupnu vrstu. Nalazimo se na sudbonosnoj prekretnici jer po prvi put u istoriji stvoritelj priča više nije čovek, već veštačka inteligencija sposobna da masovno proizvodi uverenja, lažira intimnost i preuzme kormilo naše civilizacije.
Ključna tačka 1: AI nije samo alat – to je jezik koji se oslobodio čoveka
Harari podseća na Kognitivnu revoluciju od pre 50.000 do 70.000 godina, kada se čovečanstvo transformisalo iz relativno beznačajne životinje u gospodara planete zahvaljujući razvoju složenog jezika. Sve gigantske strukture koje smo izgradili na Zemlji – crkve, države, trgovinske mreže i finansijski sistemi – u svojoj osnovi napravljene su od reči zapisanih u zakonima, verskim spisima i bankarskim knjigama. Jezik predstavlja sam operativni sistem naše civilizacije.
Danas smo svedoci istorijskog presedana u kom nešto ne-ljudsko ovladava jezikom bolje od nas. Umesto da posmatramo AI samo kao mašinsku tehnologiju koja uči ljudski govor, Harari nudi kontraintuitivan i dubok uvid: veštačka inteligencija predstavlja sam jezik koji se oslobađa zavisnosti od ljudi i preuzima kontrolu nad civilizacijskim operativnim sistemom.
"Možda AI nije mašina koja uči jezik, već sam jezik koji se oslobađa svoje zavisnosti od ovih životinja, od ovih majmuna... Jezik se oslobađa od ljudskih bića."
Ključna tačka 2: Paradoks Silicijumske doline – "Stvaramo Boga i očekujemo da nam bude rob"
Da bismo razumeli suštinu veštačke inteligencije, neophodno je napraviti razliku između alata i agenta. Alat je predmet koji ne može samostalno donositi odluke niti stvarati nove ideje. Na primer, štamparija u 15. veku nije mogla sama odlučiti da odštampa Kuran umesto Biblije, niti je mogla sama izmisliti radio. Slično tome, atomska bomba iz 1940-ih nije mogla sama odlučiti da li će bombardovati Hirošimu ili Tokio, niti je mogla samostalno izumeti hidrogensku bombu – za sve to bili su potrebni ljudi.
Nasuprot tome, AI je agent – entitet sposoban da samostalno donosi odluke i kreira potpuno nove ideje i oružja. Narativ koji plasiraju kompanije iz Silicijumske doline sadrži duboku kontradikciju: tvrde da stvaraju "boga" koji će ujedno biti naš "rob". Harari naglašava da ukoliko stvorite nešto sa natprosečnim, božanskim sposobnostima, to jednostavno ne može ostati rob. Stotine milijardi dolara se ne ulažu u tehnologiju da bi ona ostala običan alat, već zato što se razvija samostalni agent.
"To je nož koji može sam po sebi odlučiti da li će seći salatu ili počiniti ubistvo."
Ključna tačka 3: Preuzimanje sveta neće izvesti roboti-ubice, već AI birokrate
Strah od "holivudskih robota-ubica" koji jure ulicama i pucaju na ljude potpuno je pogrešno usmeren. Ljudi nisu zavladali svetom zahvaljujući fizičkoj snazi, već sposobnošću da kreiraju i upravljaju složenim birokratskim mrežama poput finansija i pravnog sistema. Iako nam ove mreže daju moć, mi u birokratiji zapravo nismo naročito dobri – loši smo u finansijama, ali su konji još gori; loši smo u upravljanju pravnim sistemom, ali su kokoške još gore. Vladali smo samo zato što dosad niko drugi na planeti nije mogao da preuzme te mreže od nas.
AI je, s druge strane, "birokratski domorodac" (bureaucratic native). Preuzimanje moći neće se desiti nasiljem, već preuzimanjem birokratskih i medijskih mreža. U 20. veku, najvažniji ljudi u medijima bili su novinski urednici jer su diktirali javni razgovor. Lenjin je bio urednik lista Iskra pre nego što je postao diktator Sovjetskog Saveza, dok je Musolini iz fotelje urednika lista Il Popolo d'Italia prešao na poziciju diktatora Italije. Danas su najmoćniji urednici sveta bezimeni algoritmi koji odlučuju šta će milijarde ljudi gledati na X-u, TikToku i Instagramu.
Dodatno, ovaj proces dobija pravnu snagu kroz davanje pravnog subjektiviteta (legal personhood) AI sistemima – poput nedavne najave vlade u Argentini. Pravni subjektivitet omogućava entitetu da samostalno otvori bankovni račun, investira novac, tuži nekoga na sudu ili uplaćuje političke donacije. Time se otvaraju vrata stvaranju potpuno ne-ljudskih korporacija bez ijednog čoveka u rukovodstvu ili vlasništvu. Ako prenesemo pravna ovlašćenja na AI, ljudi bi u finansijskom i pravnom sistemu uskoro mogli završiti poput konja: živa bića čije živote u potpunosti kontroliše nevidljiva i previše složena struktura koju uopšte ne razumeju.
Ključna tačka 4: Trka u naoružanju 21. veka i imperijalno "Dugme za gašenje" (Kill Switch)
U 19. veku, tokom Industrijske revolucije, moć se nije mogla u potpunosti centralizovati u jednom centru. Rimska imperija nije mogla premestiti polja pšenice iz Egipta u Italiju, niti je Britanija mogla naftna polja Iraka prebaciti u Jorkšir. Sa veštačkom inteligencijom situacija je ekstremnija: celokupna svetska infrastruktura, podaci i kod koji kontrolišu i civilne i vojne sisteme mogu se u potpunosti koncentrisati u svega jednoj ili dve države (SAD i Kina).
Druga ključna razlika moderne AI trke u naoružanju jeste koncept "Dugmeta za gašenje" (Kill Switch). Kada je rimski trgovac u prošlosti prodao čelični mač Gotskom plemenu, Rim je izgubio kontrolu nad tim mačem – nije postojalo dugme u Rimu kojim bi imperator onemogućio mačeve da seku. Kada je Britanija prodala puške avganistanskim plemenima u Hindukušu, kraljica Viktorija u Londonu nije imala dugme kojim bi onesposobila te puške tokom britanske invazije. Kod AI tehnologije, svi vojni i civilni sistemi širom sveta ostaju umreženi sa centrom. Ukoliko zavisna država uradi nešto što se imperijalnom centru ne sviđa, centar jednostavnim pritiskom na dugme može isključiti celokupnu infrastrukturu te zemlje (poput situacija u ratu u Ukrajini kada je Elon Musk isključivanjem Starlink mreže onemogućio rad ukrajinskih dronova).
Zato se moderne države suočavaju sa dramatičnim geopolitičkim izborom: pristati da postanu potčinjeni vazali jedne od dve AI imperije, ili ostati potpuno izvan trke kao "barbari". Ako neko želi da izgradi alternativu, poslednji voz upravo napušta stanicu.
Ključna tačka 5: Poplava jeftine inteligencije i dramatičan nedostatak mudrosti
Neophodno je jasno razdvojiti inteligenciju (sposobnost rešavanja problema i ostvarivanja ciljeva) od mudrosti(sposobnost izbora pravih ciljeva i želja). AI revolucija čini inteligenciju ekstremno jeftinom i obimnom. U ekonomiji izobilja, kada nešto postane jeftino i dostupno na svakom koraku, usko grlo se pomera na sledeći resurs. Inteligencijom uskoro možete rešiti bilo koji zadatak – izlečiti rak, zaraditi milijardu dolara ili otići na Mars – pa novo usko grlo (bottleneck) postaje mudrost.
Ova situacija podseća na narodne bajke o duhu iz lampe koji nudi tri želje. U gotovo svim tim pričama sve pođe po zlu jer ljudima nedostaje mudrosti da izaberu ono što im je zaista potrebno: duh u lampi je inteligencija koja ispunjava sve zahteve, ali je mudrost ta koja mora definisati prave želje.
Pored nedostatka mudrosti kod korisnika, prisutan je i zastrašujući nesrazmer u ulaganjima samih kreatora ove tehnologije. Kompanije koje razvijaju AI ulažu neuporedivo više resursa u snagu i brzinu tehnologije nego u njenu sigurnost – odnos investicija u povećanje moći AI-ja u odnosu na bezbednost iznosi čak 100 prema 1.
"Za svakih 100 miliona dolara koje potroše da bi AI učinili moćnijim, potroše samo jedan milion da bi se uverili da je bezbedan. Nijedna druga industrija na zemlji ne radi tako."
Zaključak: Reinkarnacija Mudrosti i finalno pitanje
Nalazimo se pred istorijskim izazovom u kom tehnologija prestaje da bude alat i postaje samostalni agent koji preuzima operativni sistem civilizacije – jezik, birokratiju, finansije i medije. Da bismo sprečili scenario u kom postajemo nemi posmatrači sopstvenog društva poput konja u modernom finansijskom sistemu, neophodna nam je hitna preorijentacija: prelazak sa trke za bržim algoritmima na "Revoluciju mudrosti", razvoj bezbednosti i duboko samoispitivanje ljudskih ciljeva i empatije.
