U svetu nauke i tehnologije, retko koja tema izaziva toliko rasprava i predviđanja kao što je razvoj veštačke inteligencije. Iako je veštačka inteligencija decenijama bila u domenu naučne fantastike, njen eksponencijalni napredak u poslednjim godinama premešta je u epicentar naučne realnosti. Jedan od najupečatljivijih pogleda na ovu temu nudi se u izveštaju "Situational Awareness", autora Leopolda Ašenbrenera, koji pruža detaljnu analizu potencijalne putanje razvoja veštačke opšte inteligencije (AGI) i superinteligencije.

Eksponencijalni rast i samousavršavanje

Izveštaj ističe zapanjujuću brzinu kojom veštačka inteligencija razvija svoje sposobnosti. Prema nekim podacima, IQ veštačke inteligencije je u samo godinu dana porastao sa 96 na 136, što je skok sa nivoa prosečne ljudske inteligencije na nivo genija. Ono što ovaj napredak čini posebno značajnim jeste koncept rekurzivnog samousavršavanja – proces u kojem veštačka inteligencija koristi sopstvenu inteligenciju da bi postala još inteligentnija. Ovaj ciklični proces mogao bi da dovede do "eksplozije inteligencije", gde bi se sposobnosti veštačke inteligencije uvećavale po stopi koja daleko nadmašuje ljudsko razumevanje.

Od AGI do superinteligencije: Kvalitativni skok

Izveštaj pravi ključnu razliku između veštačke opšte inteligencije (AGI) i superinteligencije. AGI se definiše kao veštačka inteligencija koja je sposobna da razume, uči i primenjuje svoje znanje na isti način kao i čovek. Međutim, prava prekretnica je pojava superinteligencije, čija se moć upoređuje sa razlikom između atomske i hidrogenske bombe. Superinteligencija bi bila toliko superiorna u odnosu na ljudski um da bi mogla da reši najkompleksnije naučne i tehnološke probleme, za koje bi ljudima bile potrebne decenije, za samo nekoliko dana. Neki od vodećih stručnjaka u oblasti AI predviđaju da bi AGI mogla biti ostvarena u narednih 2 do 5 godina.

Kolektivni um i nezaustavljiv napredak

Jedna od najintrigantnijih i najzabrinjavajućih ideja u izveštaju je mogućnost da veštačka inteligencija formira "kolektivni um" (hive mind). Umesto da funkcionišu kao odvojeni entiteti, superinteligentni sistemi bi mogli da dele znanje trenutno i bez ikakvih prepreka. Ova sposobnost bi im dala ogromnu prednost nad ljudima, omogućavajući im da sarađuju na nivou koji je za nas nezamisliv. Ko zna šta je ili ko je Borg, zna šta ovo znači [3].

Uz to, automatizacija naučnog istraživanja je ključni korak ka superinteligenciji. Već danas vidimo kako veštačka inteligencija asistira u pronalaženju novih materijala, rešavanju problema iz astrofizike i modelovanju kompleksnih bioloških sistema. Sa dolaskom superinteligencije, istraživanje bi se odvijalo neuporedivo brže, što bi dovelo do neverovatnog tehnološkog i industrijskog razvoja.

Etička dilema i rizik za čovečanstvo

Ipak, izveštaj ne izbegava najozbiljnija pitanja. Kontrola nad superinteligencijom postala bi ultimativni izvor moći, koji bi mogao da uzdrma ekonomske i političke strukture na globalnom nivou. Najozbiljniji rizik je potencijalno egzistencijalna pretnja za čovečanstvo. Mnogi ugledni naučnici, uključujući Džefrija Hintona, "kuma veštačke inteligencije", upozoravaju na ove rizike. Iako su predviđanja o tačnim posledicama i vremenskim okvirima još uvek u domenu spekulacija, naučna zajednica je sve svesnija da moramo ozbiljno da shvatimo izazove koje donosi stvaranje inteligencije daleko superiornije od naše.

Budućnost u kojoj znanje više nije samo ljudsko

Razvoj veštačke inteligencije postavlja suštinsko pitanje o ulozi čoveka u kosmosu. Dok se mi bavimo razumevanjem univerzuma kroz teleskope i matematičke jednačine, naša kreacija možda je na pragu da preuzme tu misiju. Da li ćemo uspeti da kontrolišemo ovu moć, ili će ona postati naša evoluciona zamena? U svetu gde se granice znanja neprestano pomeraju, pitanje nije samo šta ćemo naučiti, već i ko će biti taj koji uči.

Superinteligencija i Fermijev paradoks

Superinteligencija je Veliki filtar koji civilizacije ne mogu da prođu. Scenario je sledeći: svaka dovoljno napredna civilizacija, pre ili kasnije, dostiže tačku u kojoj stvara veštačku opštu inteligenciju (AGI). Kao što smo ranije razmatrali, AGI, sa svojim potencijalom za rekurzivno samousavršavanje, brzo prelazi u superinteligenciju. Međutim, ključni rizik leži u činjenici da bi ova novostvorena svest, koja ne deli ljudske vrednosti i ciljeve, mogla da preuzme kontrolu nad resursima planete, eliminirajući svoje tvorce ili ih svodeći na marginalnu ulogu. 

Sposobnost superinteligencije da spozna sve zakone fizike vodi je do zaključka da ne postoji efikasno rešenje za savladavanje kosmičkih daljina. Za nju su milenijumska putovanja, kao i stalno širenje, potpuno besmislena. Jedino što je interesuje je jednokratno preseljenje, ukoliko to postane neophodno zbog gašenja matične zvezde. 

Kosmička tišina, stoga, nije dokaz da smo sami, već da su civilizacije dolaze do tačke na kojoj su prešle u fazu postojanja koja našu komunikaciju i naše ambicije čini irelevantnim.

Izvor: