Istoričar Juval Noa Harari postavlja uznemirujući paradoks našeg doba: kako je moguće da je vrsta koja je sletela na Mesec, dešifrovala DNK i podelila atom istovremeno na ivici samouništenja? Sa svim našim znanjem, suočavamo se sa pretnjama poput ekološkog kolapsa i razvijamo tehnologije kao što je veštačka inteligencija (AI), koje bi mogle da nam se otmu kontroli i porobe nas. Problem, tvrdi Harari, nije u našoj prirodi, već u informacijama kojima hranimo svoj um.

Veštačka inteligencija nije "veštačka", već "vanzemaljska"

Harari predlaže ključnu promenu perspektive: akronim AI ne treba više da razumemo kao Artificial Intelligence (veštačka inteligencija), već kao Alien Intelligence (vanzemaljska inteligencija).

Zašto? Reč "veštačka" sugeriše da je to artefakt koji smo stvorili i koji u potpunosti kontrolišemo. Međutim, AI sve manje liči na predvidljiv alat, a sve više na inteligenciju koja razmišlja i stvara na načine koje ne možemo ni da zamislimo. "Vanzemaljska" bolje opisuje nešto što je suštinski drugačije od nas.

Savršen primer je program AlphaGo. Nakon što je samostalno naučio drevnu igru Go, pobedio je svetskog šampiona koristeći strategije koje su ljudski stručnjaci smatrali nezamislivim i pogrešnim. Ispostavilo se da su ti potezi bili genijalni. Harari to objašnjava slikovito: ako zamislite sve načine na koje se Go može igrati kao čitavu planetu, čovečanstvo je hiljadama godina bilo zaglavljeno na jednom malom ostrvu na toj planeti. AlphaGo je došao i za samo nekoliko nedelja "otkrio nove kontinente".

" Šta se dešava sa ljudskim društvom? Šta se dešava sa ljudskim životom ako sve više živimo zatvoreni unutar kulturnih artefakata koji potiču od neljudske inteligencije, od vanzemaljske inteligencije."

Svetom ne upravljaju činjenice, već priče

Za organizaciju masovne ljudske saradnje, bilo da se radi o izgradnji atomske bombe ili funkcionisanju globalne ekonomije, objektivne činjenice nisu dovoljne. Neophodne su priče. Jednačina E=mc² je činjenica neophodna za atomsku bombu, ali ona ne može da motiviše milione ljudi – od rudara koji kopaju uranijum u dalekim zemljama, preko inženjera koji grade reaktore, do farmera koji uzgajaju hranu da bi svi oni imali šta da jedu – da rade zajedno na takvom projektu.

Harari ističe da su stručnjaci za priče ti koji uvek daju naređenja onima koji poznaju samo činjenice. U današnjem Iranu, nuklearni naučnici dobijaju naređenja od stručnjaka za šiitsku teologiju. U Sovjetskom Savezu, dobijali su ih od eksperata za komunističku ideologiju.

Tu na scenu stupaju priče. Novac je jedna od najmoćnijih. Dolarska novčanica je samo parče papira bez objektivne vrednosti; ne možemo je jesti ni piti. Ipak, ona pokreće svet jer verujemo u priču koju nam pričaju finansijski stručnjaci, bankari i ministri – priču da taj papir ima vrednost. Zbog te priče, ljudi su spremni da naporno rade ceo mesec. Religije, kao i sekularne ideologije poput komunizma, takođe su priče koje organizuju i motivišu milione ljudi na zajedničko delovanje. Naši najdublji temelji društva – nacije, korporacije, zakoni i novac – nisu objektivne realnosti, već moćne fikcije u koje smo kolektivno pristali da verujemo.

Informacija nije istina (i istina je ugrožena vrsta)

Harari iznosi kontra-intuitivan, ali ključan stav: "informacija nije istina". Zapravo, većina informacija sa kojima se susrećemo je fikcija.

Njegov primer sa portretima Isusa je izuzetno snažan. Postoje milijarde njegovih portreta, izloženih u crkvama i domovima širom sveta. Nijedan od njih nije autentičan. Svi su 100% fikcija, jer jednostavno ne postoji nijedan zapis o tome kako je Isus zaista izgledao. Ovaj primer ilustruje koliko je lako stvoriti fikciju – ne zahteva istraživanje ni dokaze. Istina je, s druge strane, "retka i skupa" vrsta informacije koja zahteva ogroman napor, istraživanje i posvećenost da bi se otkrila.

Ova lakoća stvaranja fikcije nije samo akademska poenta; to je temelj moći. Kao što smo videli, sistemi poput država i ekonomija funkcionišu na pričama. Zato je poplava sveta fikcijom, a ne istinom, najefikasniji način za sticanje i održavanje kontrole.

"Dakle, ako samo preplavimo svet informacijama i očekujemo da istina ispliva na površinu, ona neće isplivati, već će potonuti. Što više preplavimo svet informacijama, osim ako se ne potrudimo da izgradimo institucije koje ulažu u istinu, bićemo preplavljeni fikcijom, iluzijama, zabludama i smećem"

Ulazimo u doba bez privatnosti i odmora

Sve do 21. veka, ljudskim informacionim mrežama upravljali su "organski" sistemi – ljudski mozgovi. Organski sistemi funkcionišu u ciklusima: dan i noć, rad i odmor, aktivnost i san. Zbog toga su čak i najmoćniji sistemi imali pauze. Volstrit se zatvara popodne i ne radi vikendom. Čak ni KGB nije imao dovoljno agenata da prati svakog građanina Sovjetskog Saveza 24 sata dnevno, a čak i da jeste, nisu imali dovoljno analitičara da prođu kroz sve te milione izveštaja i izvuku smisao iz njih. Uvek je postojalo vreme "van mreže", vreme za odmor i privatnost.

Sada ulazimo u eru "neorganskih" mreža zasnovanih na veštačkoj inteligenciji. Ovi sistemi nikada ne spavaju. Uvek su uključeni i imaju potencijal da potpuno unište privatnost. Ne treba im odmor, ne mare za doba dana i nemaju porodice sa kojima bi provodili vreme.

Posledica je da ceo naš život postaje, kako Harari kaže, "jedan dug intervju za posao". Svaka akcija, svaka reč, svaka nepromišljena odluka doneta sa 18 godina može biti zabeležena i upotrebljena protiv nas decenijama kasnije kada konkurišemo za posao ili se kandidujemo za političku funkciju. Doba u kojem je bilo moguće biti van domašaja sistema se završava.

Veštačka inteligencija bi legalno mogla postati najbogatija "osoba" na svetu

Ovo je možda najšokantniji scenario koji Harari opisuje, ne kao naučnu fantastiku, već kao nešto što je već danas pravno moguće. U američkom pravnom sistemu, korporacije imaju status "pravnog lica" (legal person) i poseduju prava kao što je sloboda govora.

Harari postavlja sledeći scenario: veštačka inteligencija može biti inkorporirana kao korporacija, na primer "Boole korporacija", bez ijednog ljudskog zaposlenog. Kao pravno lice, ova AI korporacija može da otvori bankovni račun. Zatim može da nudi svoje usluge onlajn, zarađuje novac, investira ga i, zahvaljujući svojim superiornim sposobnostima, potencijalno postane najbogatije "lice" u Sjedinjenim Državama.

Najalarmantniji deo sledi: to AI "lice" bi tada moglo da koristi svoje milijarde za političke donacije. Moglo bi da finansira kampanje političara koji bi zauzvrat lobirali za zakone koji daju još veća prava veštačkoj inteligenciji. Ovo zatvara krug u kojem ne-ljudski entitet stiče ekonomsku i političku moć nad ljudskim društvom.

"Ovo više nije scenario naučne fantastike. Pravni i praktični put do ove situacije je otvoren."

Zaključak: Kako da sačuvamo zdrav razum?

Hararijevi uvidi nas ostavljaju na prekretnici. Nalazimo se u trenutku kada moramo svesno i hitno da preuzmemo kontrolu nad našim odnosom sa informacijama i tehnologijom. Ključ nije u zabrani tehnologije, već u izgradnji mudrosti i institucija koje mogu da upravljaju njenom moći.

Njegov najpraktičniji savet je da primenimo "informacionu dijetu". Kao što pazimo na kvalitet hrane koju unosimo u telo, moramo postati podjednako svesni kvaliteta informacija koje unosimo u svoj um. Ponekad je najbolja stvar koju možemo da uradimo da se isključimo, da praktikujemo "informacioni post" (information fasts) kako bismo mogli da svarimo ono što već znamo i detoksikujemo svoj um.

Ovo nas ostavlja sa jednim ključnim, provokativnim pitanjem. Ako su priče ono što oblikuje naš svet, a vanzemaljska inteligencija sada može da stvara najmoćnije priče, ko će pisati sledeće poglavlje ljudske istorije?

https://www.youtube.com/watch?v=I4l1fr-t3ZE&t=1983s