Decenijama postoji ideja veštačke superinteligencije koja uništava čovečanstvo, i sretali smo je najčešće u SF romanima i filmovima. Ali tim problemom se bave i naučnici. Oni su upravo doneli presudu o tome da li ćemo moći da kontrolišemo računarsku superinteligenciju. Odgovor je: Gotovo definitivno ne.

Superinteligencija je hipotetički entitet koji poseduje inteligenciju koja daleko nadmašuje inteligenciju najsjajnijih i najdarovitijih ljudskih umova. U svetlu nedavnog napretka u mašinskoj inteligenciji, brojni naučnici, filozofi i tehnolški stručnjaci pokrenuli su raspravu o potencijalno katastrofalnim rizicima koje nosi takav entitet. Ilon Mask takođe je upozorio na opasnost 2018. god. rekavši da će veštačka inteligencija postati “besmrtni diktator od koga nikada nećemo pobeći.”

Zašto nećemo moći da kontrolišemo superinteligenciju? Problem je razumevanje superinteligencije jer je daleko iznad direktnog ljudskog razumevanja. Rešenje bi moglo biti u simulaciji takve superinteligencije drugim programom, da bismo je mogli analizirati

Generalno, programi su napisani od strane čoveka, tako da ljudi koji su ih napisali, i oni koji imaju odgvarajuća znanja, mogu razmeti šta ti programi rade i šta će ikada uraditi. Izuzetak je nova klasa programa zasnovana na mašinskom učenju. Takvi programi softverski simulraju neuronsku mrežu, nalik na mrežu neruona u ljudskom mozgu. Mreža se formira na osnovu velikog broja ulaznih podataka, u procesu tzv. mašinskog učenja. Dobar je primer AlphaZero superkompjuter kompanije DeepMind koja je postala deo Googla. Data su mu pravila igranja šaha i zadato mu je da igra sam sa sobom da u prosecu prinudnog mašinskog učenja (eng. reinforcement learning) istrenira, tj. oblikuje svoju neurosku mrežu. Za 9 sati odigrao je 44 miliona partija i stekao ekstremnu sposobnost procene šahovske pozicije što mu je omogućilo da glatko pobedi dotadašanjeg šampiona program namenski pravljenog za šah Stockfish koji izračunava 70 miliona pozicija u sekundi. Od 100 odigranih partija pobedio je u 28 partija, 72 partije su remi i 0 izgubljenih. Stockfish je inače jači od svetskog prvaka u šahu. Možemo da vidimo da AlphaZero igra tako dobro, odnosno da nalazi dobra rešenja, ali ne i putanju do tih rešenja. Isto tako ne možemo da vidimo za koja je sve rešenja sposoban.

Kada bi postojalo rešenje za Tjuringov Halting problem (problem zaustavljanja izvršavanja programa) tada bismo znali da li će se program regularno zaustaviti, a time i koje je rešenje iznašao, odnosno šta bi sve veštačka inteligencija mogla da nam priredi (npr. naše uništenje). Ali i pre pojave računara Alen Tjuring je 1936. god. dokazao da problem zaustavljanja nema rešenje, a to danas znači, a i zuavek, da nema mogućnosti nadgledanja do kojih rešenja superinteligencija može doći. Na neki način kao da je pređena granica posle koje računar sa našeg stanovišta ima slobodnu volju. Dokaz nerešivosti problema zaustavljanja takođe znači i da nisu svi problemi izračunljivi, tj. da nemaju matematičko-logičko rešenje. To povlači zaključak da čovek nikada neće biti potpuni gospodar sveta a time ni svog života.

Može neko predložiti, treba da ograničimo vešetačku inteligenciju, da nema pristupa opasnim stvarima, naoružanju, bojnim otrovima i ostalim stvarima koje bi mogle dovesti do katastrofe. Ali pogledajmo na primeru. Recimo da Beogradsko gradsko sobraćajno preduzeće uvede superinteligenciju za upravljanje rasporedom gradskim autobusima, tramvajima, trolejbusima i svim ostali pratećim vozilima za funkcionisanje sistema javnog prevoza, time i svim zaposlenim. Jasno je da bi uz sve potrebe ulazne podatke (gde putinici ulaze, izlaze, u koje vreme, broj vozila, broja radnika, statistika kvarova i kakvih, itd) u procesu učenja iznašala najoptimalniji angažman svih resursa i da bi ostvarila skoro savršeno pokrivanje potreba putnika uz javljanje putnicima na njihove telefone kada stiže vozilo, koliko su popunjeni i predlozi za alternativne pravce. Ali vremenom se ne bi ostalo na tome, integracijom regulacije saobraćaja, semafora, inteligencija bi iznašla dalja bolja rešenja ubrzanja saobraćaja i smanjena troškova i čekanja. Niko nam ne garantuje da bi se zaustavila na tome (Tjuringov halting problem). Jer nije u pitanju algoritamski if-else put donošenja prostih odluka do zadatog rešenja.

HalGSB
Slika 1. Od gradskog saobraćaja do superinteligencije

Ne kaže se ovde da će od Gradskog saobraćajnog krenuti razvoj događaja do uništenja čovečanstva, mada šansa nije nula, nego da će buduća superinetligencija koja ima pristup spoljnom svetu, preko interneta, hakujući, mogla da dopre do svake pore savremene civilizacije i do onoga što može dovesti do katastrofe. Setimo se slučaja CIA sabotaže akcije obogaćivanja uranijuma u Iranu u pogonima koji nisu imali vezu sa internetom. Neko je prekršio sigurnosni protokol, utakao USB memoriju koja je došla iz spoljnog sveta u jedan od mnogih račaunara u zaštićenom pogonu i virsu je prodro svuda, pokrenuvši Simensove centrifuge za obogaćivanje na previsok broj obrtaja dovodeći do njihove havarije. Na sličan način jednog dana superinteligencija može da prodre u spoljni svet i uraditi šta želi.

AI

Slika 2a. Ako idemo na ograničavanje supeinteligencije, izgubićemo dobrobiti koje nam donosi. 
Slika 2b. Superinteligencija koja ulazi u stvarni svet može biti opasna.
 

„Superinteligentna mašina koja upravlja svetom zvuči kao naučna fantastika“, kaže informatičar Manuel Cebrian sa Instituta Max-Planck. „Ali već postoje mašine koje samostalno obavljaju važne zadatke, a da programeri ne razumeju u potpunosti kako to čine. Zato se postavlja pitanje da li bi sve to u nekom trenutku moglo postati nekontrolisano i opasno za čovečanstvo.

Kompletan rad prema kome je napisan ovaj tekst objavljen je u Žurnalu za istraživanje veštačke inteligencije (Journal of Artificial Intelligence Research)

Izvori:

 


Komentari  

Marko3
+4 #3 Marko3 18-01-2021 19:29
Veoma dobro napisano, jasno i dokumentovano. Ako je VS pametnija od nas, a po definiciji bi morala da bude, mi je necemo spreciti da zagospodari svetom. Jednostavno ne mozemo, jer je pametnija od nas. Mislim da opasnost preti od novokomponovani h sefova I politicara koji sprecavaju ljudska prava I demokratijurazn im pracenjima, prepoznavanjima 'profilisanjem' . Pokusavajuci da bude orudje za sprecavanje ljudskih sloboda, VS moze da se otrgne kontroli i pocne da vlada...mozda prvo GSB...pa I ako primetimo, verovatno ce biti kasno. Ako VS preuzme struju, vodu, gas, banke, penzije i plate...odbranu , kako je zaustaviti? Na kraju, moze biti mnogo gore nego sto mozemo zamisliti...a mozda toga covecanstvo i ne bude bilo svesno! Leyland autobus je odlicna ilustracija. Inace, najbolji autobus u istoriji GSBa, po misljenju vozaca, putnika, majstora odrzavanja, inzenjera i racunovodja. Na zalost, to je i primer kako odlicna firma koja pravi izvanredne autobuse (i kamione), po mnogima u to vreme najbolje na svetu, moze relatvno brzo da se upropasti. Kombinacijom nacionalizacije i privatizacije, potpuno je nestala, cak i bez VS. Ako ljudima moze nesto od takve vrednosti i vaznosti kao sto je bio Leyland da 'promakne' i ne prezivi, VS ima svaku sansu da uspe. Mozda ne danas, ni sutra, ali mozda brze nego sto se moze zamisliti.
Neđo
+2 #2 Neđo 18-01-2021 14:40
Price da ce covjek postati beskoristan nisu od juce, to traje vjekovima.

U jednom momentu je prestao da nosi i vuce teret sam pa poceo koristiti zivotinje. U jednom momentu su zivotinje zamijenjene masinama.

Negdje sam gledao novinske natpise kada je zeljeznica sa parnim lokomotivama pocela da uzima maha - gotovo je, apokalipsa, konje izbacamo iz upotrebe a brzo cemo nestati i mi i slicni Informer naslovi. Zatim su se poceli javljati digitroni, racunari i danas poznata elektronika uopste, opet je nastala drama - covjek vise ne mora ni da upravlja masinama, to ce raditi masine! I tako, niz traje, prakticno cijelu ljudsku istoriju.

Hocu reci, covjek je svakim novim izumom nalazio sebi neko novo zanimanje. Danas ne mora da rmbaci u polju 16 sati dnevno, moze lagano da kucka iz tople kancelarije i posle ide kuci i slobodno vrijeme trosi na neki inteligntni vid zabave, tipa, gledanje rijalitija ili slicno. Salu na stranu, ko nije sposoban da se prilagodi na novonastale okolnosti i radi nesto sto se trazi u tom vremenu, za njega ce vaziti ona "sam pao, sam se ubio". Cijelu ljudsku istoriju smo se prilagodjavali, pa cemo valjda nastaviti sa tim.

Kako ce izgledati ovo iz teksta, zavisi od nas i dalje. I zavisice do sekund prije nego sto VI postane inteligentnija od nas. Nije me strah. Prvo iz razloga sto nece za mog zivota do toga doci, a drugo sto racunam da nismo ni mi za baciti, niti da smo dostigli zenit svog promisljanja. Polako roboti, jos nismo rekli poslednju rijec! :)
ddragovic
+6 #1 ddragovic 18-01-2021 11:39
Konačno da se neko na sajtu dotakao i ove teme.
Najveći prodor u naucu XXI pa nadalje vekova biće u ovoj oblasti.
Revolucija koju će izazvati artifišal int. biće takva da je mnogi neće ni shvatati. Mnogi veruju da će označiti kraj naše civilizacije kakva je postojala 5-10 milenijuma, pa čak i ljudi, jer će jednostavno postati tehnološki višak. Već sada otkaze u nekim firmama daju softveri ('roboti') koji mere tvoj učinak, zalaganje, inovativnost, brzinu itd. i softverski 'ladno odlučuju da li si potreban ekipi ili ti sleduje šimika u bulju. Mnogi razlišljaju o Asimovljeva Tri zakona robotike ali to je ipak SF. Već sada postoje sve glasnije i mračnije (čak apokaliptične) teze da su milioni ljudi jednostavno nepotrebni za razvoj i da prosto smetaju. Mnogi će dobijati sitnu lovu da sede kod kuće i ne rade ništa, slično danas domaćim životinjama.
Nisam sreo nijednog relevantnog futuristu da budućnost gleda ružičastim naočarina (ne računam naprednjake)

Dodaj komentar


Sigurnosni kod
Osveži