Kako vekovi prolaze, ovo pitanje tišti sve veći broj pametnih glava, a čini mi se prvi put u istoriji i glave onih drugih. Sve manje je onih koji vide budućnost naše vrste kao logaritamsku krivu u usponu posutu ružama, a sve više je ljudi koji su ozbiljno zabrinuti ne samo za našu vrstu već čak i za ovu generaciju koja trenutno baulja po planeti. Sve više je raslojavanja, i ono postaje globalno, na 'Nas' (makrovećina) i 'Njih' (mikromanjina). U svemu: ekonomiji, zdravstvu, obrazovanju, dostupnosti prirodnim resursima, gladi, slobodi itd. itd. To svi vide, ne treba nam mala Tumbergova ili konferencije u Glazgovu i obećanja lokalnih pajaca koje zovemo liderima. Ima li ipak leka?
Opcija i nema toliko mnogo koliko se na prvi pogled može pomisliti, ali nije stvar u opcijama kojiko u tajmingu – da li je prekasno? Da li je to jedinstveno čudo prirode, ljudski mozak, jednostavno evolucijom stvoren sa bagom koji će ga odvesti u ćorsokak, do samouništenja? Ne sećam se SF priča i romana – a pročitao sam ih na tone – koji su vrcali od optimizma. Čak ni H. Dž. Vels u svom romanu 'Vremeplov' napisanom 1895, koji sam pročitao kao dete, nije video budućnost naše civilizacije u blagostanju i sreći, ali je bar ostavio planetu i prirodu u dobrom stanju. Kod Asimova, u 'Zadužbinama', priroda na Zemlji je uništena, površina betonirana i pretvorena u jedan grad veličine planete... Prvi put u 4,28 milijarde godina svog postojanja, život na našoj planeti se nalazi u opasnosti i to od koga? Od samozvane najpametnije i najnaprednije hemijsko-biološke kombinacije organske materije u poznatom kosmosu. Da ironija bude veće, glave će joj doći, to nema sumnje, ono što ju je i popelo na tron, a to je tehnološki napredak, ili ako više voliš 'napr(e)dak'.
Futurolozi se, kao i uvek kada se ljudi u pitanju, razilaze u mogućim scenarijima. Kao i u politici, i ovde ima naivnih romantičara, a ima i onih drugih (ne znam kako glasi antonim). Pošto ja pripadam ovima drugima, reći ću par reči o ovim prvim, onima koji veruju u naš biološki refleks za samoodržanjem i koji nas je, bar do sada, čuvao od svih zala.
Velika većina njih – ili barem dobar deo – smatra da bi poslednja greška, nakon koje bi naša vitalna krivulja beznadežno krenula nadole, bila propuštanje šanse da napustimo Zemlju. Većina njih čak ne misli ovde na Mars kao rešenje, već na odluku hoćemo li se držati udobnosti Sunčevog sistema (gde je samo Zemlja razumno pogodna za život), ili ćemo se uputiti ka zvezdama u nadi da ćemo pronaći drugi dom.
Ako ljudi ostanu ovde, moraju da budu svesni da su udaljeni samo jednu kataklizmu od izumiranja – i gubitka svega što je čovečanstvo postiglo i što mu je drago.
Ali ako uspeju da stignu do nekog drugog sistema i nasele neku drugu planetu – onda odatle mogu otići nasledeće dve, pa na četiri, zatim na osam, a zatim – ukratko, relativno govoreći – na čitavu galaksiju.
Mada, mišljenja su oni, moglo bi da se dogodi da kada napustimo Sunčev sistem otkrijemo da nas neka daleko naprednija vrsta vidi kao štetočinu koju treba istrebiti, i oni to i učine – u tom trenutku će poslednji preživeli člaovi čovečanstvo uvideti da je pokušaj migracije bio 'naša poslednja greška'. Ali zapravo, to neće biti bitnije drugačije nego ostati gde jesmo i čekati Kataklizmu.
Dakle, nekoliko stotina godina u budućnosti, nakon što sonde bez posade budu istražile obližnje mogućnosti održivosti takve ideje, a ljudske sposobnosti dostignu nivo mogućnosti gradnje brodova veličine megapolisa – samoodrživa i samo dovoljna plovila sposobna da ostvaruju znatan procenat brzine svetlosti, prevozeći u cugu desetke hiljada hodočasnika — ljudi će odlučiti žele li ili ne započeti decenijama dugo putovanje prema svom drugom domu.
Koja limunada! Da li treba reći da je ovo način razmišljanja koji nas je i doveo do toga da razmišljamo o poslednjoj (u nizu) grešci? Bez želje da ulazim u sitna crevca i polemiku da kažem da me to podseća na ono: Beba ukakila pelenu? Rešenje je – promenimo pelenu! Ukakiće beba i sledeću, i sledeću... Nastranu to što je oslanjanje na buduću tehnologiju klimavo jer niko ne može da predvidi u kom će pravcu krenuti. Kada sam se ja rodio, ništa od ovog što me sada (tehnološki) okružuje nije postojalo, a danas idemo u pravcu koji ne mogu (čak) ni da razumem. Koja promena treba da nastane u mentalitetu vrste u kojoj recimo 50 najbogatijih ima više para nego par stotina miliona ostatka? Ko makar i malo pradi kosmička istraživanja zna i vidi da se zapravo mučimo – došli smo do kraja naših mogućnosti. Nema ništa kvalitativno novo u tehnologiji već decenijama... naši motori daju određenu brzinu i za dalje su limitirani. Kakav VORP, kakva brzina svetlosti, zvezde... od toga smo udaljeni eonima.
Ali da pređem na drugu, meni bližu, da ne kažem 'dražu', grupu, za koju sam siguran da je pametnija, dalekovidija i bliža realnosti. Istorija će svakako reći svoj sud, ako bude imala kome...
Stiven Hoking je 2014. rekao da bi 'uspeh u stvaranju veštačke inteligencije bio najveći događaj u ljudskoj istoriji. Nažalost, mogao bi biti i poslednji, osim ako ne naučimo kako da izbegnemo rizike.' Dobri Stiven. A kad su ljudi u svojoj istoriji uspeli da urade nešto dobro zato što su uočili ili osetili po svom dupetu nešto loše? Nikada. Onaj bag u njihovom karakteru, loša, nefilantropska već sebična, cicijaška i baš-me-briga crta u mozgu onih koji odlučuju, to je ono što nas je uvalilo u živo blato. Setimo se samo dinamita, cepanja atoma, industrijskih revolucija, kloniranja, genetskog inženjeringa, društvenih mreža, itd. itd.
Hemičari i biolozi su uveliko podržali međunarodne sporazume koji su uspešno zabranili hemijsko i biološko oružje, a fizičari i naučnici su podržali sporazume o zabrani kosmičkog nuklearnog oružja ili zaslepljujuće lasersko oružje, ali niko nije zabranio vojnu upotrebu veštačke inteligencije.
Međutim, u januaru 2015. filosof sa Oksforda Nick Bostrom[1] pridružio se Stephenu Hawkingu, Maxu Tegmarku, Elonu Musku, Lordu Martinu Reesu, Jaanu Tallinnu i brojnim istraživačima veštačke inteligencije u potpisivanju otvorenog pisma[2] neprofitabilnom institutu 'Future of Life' govoreći o potencijalnim rizicima i prednostima povezanim s veštačkom inteligencijom. Potpisnici su napisali sledeće: 'verujemo da su istraživanja o tome kako sisteme veštačke inteligencije učiniti robusnim i korisnim jako važna i blagovremena, te da postoje konkretni pravci istraživanja koje danas treba slediti.'
U pismu se potvrđuje da društvo može da izvuče velike potencijalne koristi od veštačke inteligencije, ali se poziva na konkretna istraživanja o tome kako spriječiti određene potencijalne 'zamke': Veštačka inteligencija ima potencijal da iskoreniti bolesti i siromaštvo, ali istraživači ne smeju da stvaraju nešto što se ne može kontrolisati.
Pismo od četiri paragrafa, pod naslovom 'Prioriteti istraživanja robusne i korisne veštačke inteligencije: Otvoreno pismo', detaljno je izložilo prioritete istraživanja u propratnom dokumentu od dvanaest stranica.
U pismu se navodi da je 'autonomna oružja su opisana kao treća revolucija u ratovanju, nakon baruta i nuklearnog oružja', sugerišući da bi njihov razvoj mogao potstaći trku u naoružanju sličnu Hladnom ratu ali sa nesagledivim posledicama.
'Krajnja tačka ove tehnološke putanje je očigledna: autonomno oružje postaće Kalašnjikovi sutrašnjice', stoji u pismu. 'Ključno pitanje za današnje čovečanstvo jeste hoće li pokrenuti globalnu trku u naoružanju veštačkom inteligencijom ili sprečiti njeno pokretanje.'[3] Ako pogledaš spisak, videćeš da su to respektabilne glave i ljudi koji znaju šta pričaju u koji su dokazali svojim delima da vide bolje i dalje od ostalih. Očigledno je da su oni koji misle da Zemlja ide ka opštem miru, prosperitetu i dobrobiti za sve njene žitelje, u stilu nedotupavnih misica sveta koje listom sanjaju o livadama sa cvećem za sve, čistom vazduhu, leptirićima i deci koja se smeju, beznadežno naivni i indoktrinirani politikom, medijima i neznanjem i ne vide da je liberalni kapitalizam glavni i jedini pokretač svega oko nas.
Iako se svi ovi napori ulažu na terenu, verujem da brzim tempom razvoja AI-a dan preuzimanja AI-a više nije daleko od toga da čovečanstvo dovede do teške i verovatno bezizlazne krize.
Ako je nadljudska inteligencija namerna tvorevina ljudskih bića, teoretski bi njeni tvorci mogli da imaju predviđanja da unapred poduzmu mere opreza. U slučaju iznenadne 'eksplozije obavještajnih podataka' efikasne mere opreza biće izuzetno teške; ne samo da bi njihovi tvorci imali malo mogućnosti da testiraju svoje mere opreza na prosečnoj inteligenciji, već tvorci možda uopšte ne bi preduzeli ikakve mere opreza, ako bi ih pojava eksplozije inteligencije potpuno iznenadila.
Mislim da bi trebalo potpisati više međunarodnih sporazuma kako bi se pomoglo našoj budućnosti. Kada se dođe do tačke da donošenje bitnih odluka više ne zavisi od čoveka biće znak da smo zabrazdili. Već danas u mnogim kompanijama u SAD i Kini odluku da li ćeš ostati na poslu donosi softver koji prati tvoje dnevne aktivnosti na radnom mestu, efikasnost, zalaganje, spremnost da učiš i napreduješ, dužinu razgovora sa kolegama i s kim koristiš mobilni... Nema kome da se žališ, samo dobiješ šut-kartu. Na konkursima za posao softver odlučuje u deliću sekunde – da li si gej, samohrana majka, invalid, sisata plavuša, crnac ili genije iz silicijumske doline, koga briga – prolazi onaj ko ima najbolje reference. Odabir futbalskog trenera, direktora koncerna, generala armije, senatora, predsednika, donošenje odluka da li skrenuti autom levo ili desno, koga spašavati u zemljotresu, treba li lečiti određenu grupu, s kim zaratiti a koga bombardovati, šta je važnije: ekonomija ili udoban život, u šta treba ulagati a šta će ćorsokak i more drugih odluka donosiće algoritmi. U kom trenutku će doneti zaključak – ili neće – da čovek nije bitan za razvoj? Šta će tada biti kriterijum?
Čovečanstvo bi radije trebalo da se potrudi da bude bolje nego da stvara nešto bolje i moćnije od sebe.
Konferencija u Glazgovu. Od ovih uspavanih njuški očekivati da spasu čovečanstvo? Kako?
Nisam mogao da izdržim
[1] Jedan od najvećih živih filosofa danas, čiji radovi o uticajima budućih tehnologija, egzistencijalnim rizicima, entropičkim principima, poboljšanjima ljudske etike, rizicima superinteligencije i sl. predstavljaju vrlo zapažene rezultate. Nalazi se na listi 100 najznačajnijih globalnih mislilaca. Njegove knjige su bestseleri a Gejts i Mask ih preporučuju. Sve što ja mislim o AI naučio sam od njega i sličnih Racionalista.
[2] Otvoreno pismo o autonomnom oružju.
[3] Spisak potpisnika pisma poslatog institutu 'Future of Life'
