Decenijama postoji ideja veštačke superinteligencije koja uništava čovečanstvo, i sretali smo je najčešće u SF romanima i filmovima. Ali tim problemom se bave i naučnici. Oni su upravo doneli presudu o tome da li ćemo moći da kontrolišemo računarsku superinteligenciju. Odgovor je: Gotovo definitivno ne.

Superinteligencija je hipotetički entitet koji poseduje inteligenciju koja daleko nadmašuje inteligenciju najsjajnijih i najdarovitijih ljudskih umova. U svetlu nedavnog napretka u mašinskoj inteligenciji, brojni naučnici, filozofi i tehnolški stručnjaci pokrenuli su raspravu o potencijalno katastrofalnim rizicima koje nosi takav entitet. Ilon Mask takođe je upozorio na opasnost 2018. god. rekavši da će veštačka inteligencija postati “besmrtni diktator od koga nikada nećemo pobeći.”

Zašto nećemo moći da kontrolišemo superinteligenciju? Problem je razumevanje superinteligencije jer je daleko iznad direktnog ljudskog razumevanja. Rešenje bi moglo biti u simulaciji takve superinteligencije drugim programom, da bismo je mogli analizirati

Generalno, programi su napisani od strane čoveka, tako da ljudi koji su ih napisali, i oni koji imaju odgvarajuća znanja, mogu razmeti šta ti programi rade i šta će ikada uraditi. Izuzetak je nova klasa programa zasnovana na mašinskom učenju. Takvi programi softverski simulraju neuronsku mrežu, nalik na mrežu neruona u ljudskom mozgu. Mreža se formira na osnovu velikog broja ulaznih podataka, u procesu tzv. mašinskog učenja. Dobar je primer AlphaZero superkompjuter kompanije DeepMind koja je postala deo Googla. Data su mu pravila igranja šaha i zadato mu je da igra sam sa sobom da u prosecu prinudnog mašinskog učenja (eng. reinforcement learning) istrenira, tj. oblikuje svoju neurosku mrežu. Za 9 sati odigrao je 44 miliona partija i stekao ekstremnu sposobnost procene šahovske pozicije što mu je omogućilo da glatko pobedi dotadašanjeg šampiona program namenski pravljenog za šah Stockfish koji izračunava 70 miliona pozicija u sekundi. Od 100 odigranih partija pobedio je u 28 partija, 72 partije su remi i 0 izgubljenih. Stockfish je inače jači od svetskog prvaka u šahu. Možemo da vidimo da AlphaZero igra tako dobro, odnosno da nalazi dobra rešenja, ali ne i putanju do tih rešenja. Isto tako ne možemo da vidimo za koja je sve rešenja sposoban.

Kada bi postojalo rešenje za Tjuringov Halting problem (problem zaustavljanja izvršavanja programa) tada bismo znali da li će se program regularno zaustaviti, a time i koje je rešenje iznašao, odnosno šta bi sve veštačka inteligencija mogla da nam priredi (npr. naše uništenje). Ali i pre pojave računara Alen Tjuring je 1936. god. dokazao da problem zaustavljanja nema rešenje, a to danas znači, a i zuavek, da nema mogućnosti nadgledanja do kojih rešenja superinteligencija može doći. Na neki način kao da je pređena granica posle koje računar sa našeg stanovišta ima slobodnu volju. Dokaz nerešivosti problema zaustavljanja takođe znači i da nisu svi problemi izračunljivi, tj. da nemaju matematičko-logičko rešenje. To povlači zaključak da čovek nikada neće biti potpuni gospodar sveta a time ni svog života.

Može neko predložiti, treba da ograničimo vešetačku inteligenciju, da nema pristupa opasnim stvarima, naoružanju, bojnim otrovima i ostalim stvarima koje bi mogle dovesti do katastrofe. Ali pogledajmo na primeru. Recimo da Beogradsko gradsko sobraćajno preduzeće uvede superinteligenciju za upravljanje rasporedom gradskim autobusima, tramvajima, trolejbusima i svim ostali pratećim vozilima za funkcionisanje sistema javnog prevoza, time i svim zaposlenim. Jasno je da bi uz sve potrebe ulazne podatke (gde putinici ulaze, izlaze, u koje vreme, broj vozila, broja radnika, statistika kvarova i kakvih, itd) u procesu učenja iznašala najoptimalniji angažman svih resursa i da bi ostvarila skoro savršeno pokrivanje potreba putnika uz javljanje putnicima na njihove telefone kada stiže vozilo, koliko su popunjeni i predlozi za alternativne pravce. Ali vremenom se ne bi ostalo na tome, integracijom regulacije saobraćaja, semafora, inteligencija bi iznašla dalja bolja rešenja ubrzanja saobraćaja i smanjena troškova i čekanja. Niko nam ne garantuje da bi se zaustavila na tome (Tjuringov halting problem). Jer nije u pitanju algoritamski if-else put donošenja prostih odluka do zadatog rešenja.

Slika 1. Od gradskog saobraćaja do superinteligencije

Ne kaže se ovde da će od Gradskog saobraćajnog krenuti razvoj događaja do uništenja čovečanstva, mada šansa nije nula, nego da će buduća superinetligencija koja ima pristup spoljnom svetu, preko interneta, hakujući, mogla da dopre do svake pore savremene civilizacije i do onoga što može dovesti do katastrofe. Setimo se slučaja CIA sabotaže akcije obogaćivanja uranijuma u Iranu u pogonima koji nisu imali vezu sa internetom. Neko je prekršio sigurnosni protokol, utakao USB memoriju koja je došla iz spoljnog sveta u jedan od mnogih račaunara u zaštićenom pogonu i virsu je prodro svuda, pokrenuvši Simensove centrifuge za obogaćivanje na previsok broj obrtaja dovodeći do njihove havarije. Na sličan način jednog dana superinteligencija može da prodre u spoljni svet i uraditi šta želi.

„Superinteligentna mašina koja upravlja svetom zvuči kao naučna fantastika“, kaže informatičar Manuel Cebrian sa Instituta Max-Planck. „Ali već postoje mašine koje samostalno obavljaju važne zadatke, a da programeri ne razumeju u potpunosti kako to čine. Zato se postavlja pitanje da li bi sve to u nekom trenutku moglo postati nekontrolisano i opasno za čovečanstvo.

Kompletan rad prema kome je napisan ovaj tekst objavljen je u Žurnalu za istraživanje veštačke inteligencije (Journal of Artificial Intelligence Research)

Izvori: