Najpametniji ljudi danas koji se bave ovom tematikom, pa čak i moderni filosofi i eličari, veruju da ako mozgovi mašina budu nadmašili ljudski u opštoj inteligenciji, onda bi ovakva nova superinteligencija mogla da zameni ljude kao dominantni oblik života na Zemlji. Dovoljno inteligentne mašine bi bile u stanju da unapređuju vlastite sposobnosti brže od ljudskih računarskih naučnika, a ishod bi mogao da bude egzistencijalna katastrofa za našu vrstu.

Niko sa sigurnošću ne može reći da li će veštačka inteligencija ravna ljudskoj stići za nekoliko godina, kasnije tokom ovog stoleća ili u nekom narednom. Bez obzira na početnu vremensku skalu, nakon što se mašinska inteligencija razvije do nivoa ljudske, 'superinteligentni' sistem koji 'znatno premašuje kognitivne performanse ljudi u gotovo svim domenama interesa' najverovatnije će uslediti iznenađujuće brzo. Takvu superinteligenciju će biti vrlo teško kontrolisati ili obuzdati.

HONDA ASIMOcropPošto se krajnji ciljevi superinteligencije mogu jako da razlikuju, funkcionalna superinteligencija će spontano generisati, kao prirodne podciljeve, 'instrumentalne ciljeve' poput samoodržanja i integriteta cilja-sadržaja, kognitivnog poboljšanja i sticanja resursa. Naprimer, inteligentni agent[1] čiji je jedini konačni cilj rešavanje Rimanove teoreme (poznata nerešena matematička hipoteza) mogao bi da stvori i deluje na podcilj[2] (subgoal) pretvarajući čitavu Zemlju u neki oblik kompjutronijuma (hipotetički materijal optimizovan za izračunavanje) kako bi pomogao u računanju. Superinteligencija bi se proaktivno odupirala svim spoljnjim pokušajima da se superinteligencija isključi ili na neki drugi način spriječi njen podcilj. Kako bi se sprečila ovakva egzistencijalna katastrofa, potrebno je uspešno rešiti 'problem kontrole AI' za prvu superinteligenciju. Rešenje bi moglo uključivati instaliranje superinteligencije sa ciljevima koji su kompatibilni sa ljudskim opstankom i dobrobiti. Rešavanje problema kontrole je iznenađujuće teško jer većina ciljeva, kada se prevedu u kod implementiran u mašinu, dovodi do nepredviđenih i nepoželjnih posledica.

Oksfordski filosof Nick Bostrom, jedan od najvećih stručnjaka za efekte AI i egzistencijalne rizike, u predgovoru svoj bestselera 'Superintelligence: Path, Dangers, Strategies', ispričao je storiju koju je nazvao 'Nedovršena bajka o vrapcima'. Naime, jednog dana jato vrabaca odluči da pronađe pile sove i odgoji ga kao svog slugu. Željno zamišljaju 'kako bi život bio lak' kada bi imali sovu koja bi im pomogla u izgradnji gnezda i odbrani jata, što bi im omogućilo lakši život i više slobodnog vremena. Vrapci započinju napornu potragu za jajetom sove; samo je jedan stari, jednooki vrabac ljutitog temperamenta, sugerisao da bi bilo dobro najpre razmisliti o komplikovanom pitanju dresiranja sove pre nego što je doved u njihovo jato. Ostali vrapci su se protivili; potraga za jajetom sove već će sama po sebi biti dovoljno teška: 'Zašto prvo ne nabaviti sovu, a kasnije ćemo razraditi fine detalje?' Bostrom navodi da 'nije poznato kako priča završava', ali da svoju knjigu posvećuje jednookom vrapcu...

Da nešto razjasnim početnicima u ovoj temi, jer je terminologija nova i mnogima nejasna i nepoznata. Elementarno, veštačka inteligencija (AI, artificial intelligence) je ono što već imamo oko nas, a to je recimo prepoznavanje fizionomija ili da je slika koju mu pokazuješ pas. To se postiže tako što postoji algoritam koji u ogromnoj bazi podataka (engl. data) pretražuje karakterističnih 20 ili 50 tačaka koje determinišu lice svakog od nas, ili čak i držanje i način hoda, tako da može da te prepozna čak i ako se maskiraš, prerušiš ili s leđa. Psa prepoznaje jer je video milione slika pasa i sam zaključuje da je ono s četiri noge i s njuškom i ušima a ne mjauče zapravo pas. 'Teslom' danas upravlja AI i uspešno savlađuje sve prepreke saobraćaja, prati gužvu i donosi odluke brže i bolje od gazde kad skrenuti i kojim putem ići da bi se izbegao zastoj, a u stanju je da sam dođe na tvoj poziv na datu adresu i pokupi te i odveze kući ako si umoran, bolestan ili makar pijan. Kinezi su otišli jako daleko u tome. Na kom je nivou danas AI? Oni koji se plaše da bi AI mogla da se otgne kontroli već kasne, jer je to već na delu. Kada je, recimo, Trump bio na vlasti, ako otkucaš njegovo ime u brauzer dobijao bi more negativnih i kompromitujućih komentara. On je to hteo da prekine i zahtevao je od Googlea da to ispravi, ali oni su mu rekli da je to nemoguće (čak i kad bi hteli) jer je algoritam koji to radi programiran da se samousavršava i analizira milione ukrštenih pretraga i podataka i da to više niko nije u stanju da zaustavi ili revidira.

  mozakHijeroglif za reč mozak. Vikipedija

Termin veštačka opšta, ili generalna, inteligencija označava onu koja liči na ljudsku i najviše podseća (teži da dostigne) na našu svest. Pre koju godinu, Steve Wozniak, inženjer i suosnivač 'Applea', utvrdio je da je takva vrsta veštačke inteligencije došla na taj nivo da u razgovoru sa robotom preko telefona (Turingov test) više niko ne može da 'provali' da li se radi o mašini ili ne, bez obzira koliko lukavo i dugo postavljao pitanja. To je prvi put dogodilo 2014. Program se 'pravio' da je 13-godišnji Ukrajinski dečak (to se zove chatbot) i uspeo je da obmane postavljače pitanja, koji su videli da nešto nije u redu ali su mislili da je to zbog jezičke barijere i godina ispitanika[3]. Smatra da će sledeći korak biti da recimo možeš da daš ključeve bilo kojeg stana roboru i da on ode kod tebe i skuva ti kavu. Treba da tađe stan, da ume da otključa, da prepozna kuhinju, džezvu, nađe kavu i šećer, uključi šporet itd. Znači, već sada je mozak robota na nivou školskog deteta. Za koju godinu očekuje se da će AGI umeti da aplicira na fakultet i bez problema ga završi, koristeći iste izvore kao i ostali studenti. Bina48 je bila prvi AI koja je 2017. završila koledž Notre Dame univerziteta u Kaliforniji. Da stvar bude gora po ljude, letos je robot prvi put uspeo sa sastavi 'Ikeinu' stolicu iz delova (za samo 9 minuta!) koristeći samo štura štampana uputstva koja idu uz stolicu.

Kao i o sve drugom, i ovde se mišljenja razlikuju o tome da li će i kada stići veštačka opšta inteligencija(AGI). U jednom ekstremu, pionir veštačke inteligencije, američki ekonomista, politikolog i psiholog Herbert A. Simon je još 1965. godine predvideo sledeće: 'Mašine će u roku od samo dvadeset godina biti sposobni da obavljaju bilo koji posao koji radi čovjek'. To što je vremenski malo omanuo, ne menja suštinski ništa. Suosnivač 'Microsofta'Paul Allen, verovao je da je takva inteligencija malo verovatna u XXI veku jer zahteva 'fundamentalno nepredvidiva otkrića' i 'naučno duboko shvatanje pojma svesti'. Uz to, robotičar Alan Winfieldtvrdi da je jaz između modernog računarstva i veštačke inteligencije na ljudskom nivou širok slično kao jaz između trenutnog kosmičkog leta i praktičnog leta bržeg od svetlosti.

Optimizam da je AGI izvodiv raste i jenjava, a doživeo ponovni procvat u poslednjih desetak godina. Četiri ankete sprovedene 2012. i 2013. sugerisale su da je prosečna procena stručnjaka kada će AGI stići između 2040. i 2050. Treba da kažem da su mišljenja dali američki stručnjaci, po svom prepotentnom principu, potpuno zanemarujući Kinu – podsećam da Kina za istraživanja u toj oblasti daje godišnje recimo $240 milijardi, SAD $60 milijarde a EU oko $9 milijarde. I laiku je jasno 'ko kosi a ko vodu nosi'... a jaz se samo uvećava.

Skeptici (tzv. 'nojevi' jer guraju glavu u pesak) koji veruju da je nemoguće da AGI stigne uskoro, skloni su tvrdnjama da je izražavanje zabrinutosti zbog egzistencijalnog rizika od AI-a bespotrebno, jer bi moglo da odvrati ljude od neposrednije zabrinutosti oko utecaja AGI-a, zbog straha da bi to moglo da dovede do uplitanja države, ili otežati osiguravanje finansiranja za istraživanje veštačke inteligencije, ili zato što bi istraživanju veštačke inteligencije moglo doneti lošu reputaciju. Neki istraživači, kao što je Oren Etzioni, agresivno nastoje da uguše zabrinutost zbog egzistencijalnog rizika od veštačke inteligencije, govoreći '[Elon Musk] nas je osporio vrlo snažnim jezikom govoreći da oslobađamo demona, i zato treba da im odgovorimo.'

Godine 2014. Adam Elkus iz progresivnog onlajn magazina 'Slate' tvrdio je da je 'naš 'najpametniji' AI inteligentan otprilike kao malo dete – i to samo kada su u pitanju instrumentalni zadaci poput baratanja informacijama. Većina robotičara još uvek pokušava da naterati robotsku ruku da uhvati loptu ili trči okolo bez pada.' Elkus je dalje tvrdio da Muskova analogija sa 'prizivanjem demona' može biti štetna, jer bi mogla da rezultirati 'oštrim rezovima' budžeta za istraživanje vetačke inteligencije.[4]

Fondacija za informativne tehnologije i inovacije (ITIF), think-tank iz Washingtona, dodelila je svoju godišnju nagradu 'Luddite'[5] za 2015. 'alarmistima koji skreću pažnju na apokalipsu koju će izazvati veštačka inteligencija'; njen predsednik Robert D. Atkinson požalio se da Musk, Hawking i neki stručnjaci za veštačku inteligenciju kažu da je AI najveća egzistencijalna pretnja čovječanstvu. Atkinson je izjavio: 'To nije baš pobednička poruka ako želite da dobijete sredstva za finansiranje veštačke inteligencije od Kongresa.'Britanski naučni nedeljnik 'Nature' oštro se suprotstavio ITIF-u u svom uvodniku iz aprila 2016, priklonivši se Musku, Hawkingu, nobelovcu Wilczeku i računarskom stručnjaku Russellu, te zaključio: 'Ključno je da napredak u tehnologiji bude praćen čvrstim, dobro finansiranim istraživanjem kako bi se predvideli scenariji koje bi ta tehnologija mogla da donese... Ako je to luditska perspektiva, neka bude tako.'[6] Ipak, u uvodniku 'The Washington Posta' iz 2015, profesor robotike iz Londona Murray Shanahan izjavio je da je malo verovatno da će veštačka inteligencija na ljudskom nivou stići 'u skorije vreme', ali da je ipak 'pravi trenutak da počnemo da razmišljamo o posledicama.'

Teza da bi AI mogla da predstavlja egzistencijalni rizik izaziva širok raspon reakcija unutar naučne zajednice, ali i u javnosti. Mnoga suprotstavljena gledišta, međutim, dele zajedničke stavove. Upada u oči da ni po ovom pitanju nema koncenzusa, iako je očito da je u pripremi tehnološka revolucija, koju koracima od sedam milja predvodi Kina, naspram koje će prethodne revolucije, pa čak i ova u kojoj sada živimo, elektronska, biti zanemariva. Kao što već dve godine možemo da pratimo na pitanju korone, zapad, kao udarna pesnica naše civilizacije i po pitanju znanja i po pitanju resirsa, zaprepašćujuće je indolentna, konfuzna i nespremna da nađe rešenja i suprotstavi se globalnim pretnjama, pogotovu ne u jednom združenom frontu. Naprotiv. Šta očekivati od budala koje su sklone da sve urade za pare? Već dvadeset godina moguće je, potpuno legalno, platiti i prekoračiti kvotu propisanu za emisiju CO2. Ako tvoja fabrika emituje recimo 1000 m3CO2 a dozvoljena kvota je 500, ti nađeš u tamo negde Džibutiju fabriku koja proizvodi 20 m3, platiš, i sada dve fabrike imaju prosek od 500 m3 i prosek je po zakonu. Katastrofa!

S druge strane, mnogi skeptici se slažu da su dalja istraživanja o implikacijama veštačke opšte inteligencije neophodna. Skeptik i futurisata Martin Ford kaže: 'Mislim da se čini mudrim da se primeni nešto poput čuvene 'Doktrine 1%' američkog bivšeg potpredsednika Dicka Cheneyja na bauk napredne veštačke inteligencije[7]: izgledi za njenu pojavu, barem u doglednoj budućnosti, vrlo su mali – ali implikacije su toliko dramatične da ih treba shvatiti ozbiljno'; slično, inače skeptičan londonski časopis 'Economist' izjavio je 2014. da su 'implikacije uvođenja druge inteligentne vrste na Zemlju dovoljno dalekosežne da zaslužuju duboko razmišljanje, čak i ako se izgledi za to čine dalekim.'

Zašto ja prezirem skeptike? Imam puno i privatnih i racionalnih razloga, ali to i nije bitno. Šta kažeš na ovo: Pre otprilike 20-ak godina, jedan dobitnik Nobelove nagrade za ekonomiju je utvrdio da ljudi u ekonomiji ne donose nužno pametne i logične odluke. Sasvim je moguće da njihova rešenja budu vođena drugim kriterijumima a ne logikom i pukim raciom. Šta očekivati od njih? Znači da je sasvim moguće da se i na globalnom nivou donosu rešenja koja su, kako se to često kaže, 'nepametna', što, opet, znači da iako se nama čini krajnje glupo i nemoguće, nije nije nemoguće da se donesu neefikasna rešenja u vezi globalne emisije polutanata, borbe protiv korone, nuklearnog rata, sudara sa asteroidom ili AI.

Sam Bill Gates – sramota me da kažem da razmišljamo isto – izjavio je da ne 'razume zašto neki ljudi nisu zabrinuti', i kritikovao je raširenu ravnodušnost: u svom uvodniku još 2014

'Dakle, suočeni sa mogućom budućnošću nesagledivih koristi i rizika, eksperti zasigurno čine sve što je moguće kako bi osigurali najbolji ishod, zar ne? Pogrešno. Kad bi nam superiorna vanzemaljska civilizacija poslala poruku u kojoj kaže: 'Stići ćemo za nekoliko decenija', da li bi samo odgovorili: 'U redu, nazovite nas kad stignete – ostavićemo upaljena svetla?' Verovatno ne bi – ali ovo je manje-više ono što radimo sa veštačkom inteligencijom.'

Zabrinutost zbog rizika od veštačke inteligencije dovela je do nekih značajnih donacija i ulaganja. Grupa istaknutih tehnoloških titana, uključujući milijardera Petera Thiela, Amazon Web Servise i Muska, uložila je milijardu dolara u OpenAI, neprofitnu kompaniju koja ima za cilj zagovaranje odgovornog razvoja veštačke inteligencije. U januaru 2015. Elon Musk je donirao $10 miliona institutu 'Future of Life' za financiranje istraživanja o razumevanju donošenja odluka AI. Cilj instituta je 'rast mudrosti kojom upravljamo' rastućom snagom tehnologije. Musk takođe financira kompanije koje razvijaju veštačku inteligenciju kao što su DeepMind i Vicarious kako bi 'samo držali na oku ono što se događa sa veštačkom inteligencijom. Mislim da tu postoji potencijalno opasan ishod.'

Tema je ogromna i duboka, kao i posledice koje čekaju našu civilizaciju na ovaj ili onaj način. U potrazi za profitom, ljudski mozak ima tendenciju da čačka i tamo gde ne bi trebalo, a mere protiv potencijalno lošeg ishoda su po pravilu loše i nesvrsishodne. Pored našeg nesumnjivo majmunskog karaktera (kako ga je nazvao Jung), svemu tome pogoduje važeći političko-ekonomski sistem koji dominira planetom. Po meni, glavna prekretnica će biti determinisanje pojma svesti, o kojoj ne znamo dovoljno ni kod naše vrste. Ako nešto ne znamo, a znamo da je to svojstvo visokoorganizovanog mozga, kako ćemo je prepoznati kod mašine?

Biće zanimljivo u narednim decenijama. 

ENIAC changing a tube

 

[1] Po definiciji, agent je sve što percipira svoju okolinu, preduzima radnje autonomno kako bi postiglo ciljeve i poboljšava svoje delovanje učenjem ili korišćenjem znanja. Mogu biti jednostavni ili složeni – termostat se smatra primerom inteligentnog agenta, kao i ljudsko biće, kao i svaki sistem koji zadovoljava definiciju, kao što je tvrtka, država ili biom.

  Vodeći udžbenici za veštačku inteligenciju definišu AI kao 'proučavanje i dizajn inteligentnih agenata', definicija koja smatra da je ciljno usmereno ponašanje bit inteligencije. Ciljano usmereni agenti su takođe opisani korišćenjem pojma pozajmljenog iz ekonomije, 'rational agent'.

[2] Podciljevi služe da se stvori hijerarhiju akcija. Hijerarhije radnji pomažu agentu da efikasnije istraži i ubrza učenje u drugim zadacima u istom ili sličnom okruženju gde su isti podciljevi korisni. Dokazano je da hijerarhijske sekvence delovanja kreiraju sa autonomno utvrđenim podciljevima mogu olakšati učenje i omogućiti efikasni prenos znanja na utvrđene zadatke.

[3] Bilo je još nekoliko sličnih pokušaja da se prođe test. Lično mi je najzanimljiviji onaj gde je program-ispitanik 'glumio' da je pacijent psihopata-sociopata i za 40 minuta koliko je trajao test nijedan ljekar nije uspeo da zaključi da se radi o mašini a ne čoveku.

[4] Kao što rekoh, i ovaj kao svi u temi gledaju samo lovu a tu i jeste 'seme zla', jer će ta jurnjava za kapitalom i zaradom biti ono što će na kraju morati da platimo, ovog puta, bojim se, skupo. Nije drugačije ni sa klimatskim promenama, ekologijom, borbom protiv bolesti, gladi i ostalim nagomilanim problemima naše civilizacije.

[5] Nagrada se dodeljuje najgorem pojedincu te godine kada je u pitanju sprečavanje tehnološkog napretka. Iako bi mnogi rekli da je 'ludita' neko ko je kasno usvojio tehnologiju, grupa ga definiše kao 'nekog ko želi da ukoči uvođenje novih tehnologija'. E baš je Mask poznat kao tip koji koči napredak...
  Ima 'nagrade' je poteklo od Engleza Neda Ludda, koji je u XIX veku bio iza pokreta za uništavanje mašina 

[6] 'Nature' je tada vizionarski primetila i upozorila: 'Mašine i roboti koji u potpunosti nadmašuju ljude mogli bi da se samopoboljšavaju van naše kontrole — a njihovi interesi možda neće biti u skladu sa našim.'

[7] Moram reći da momak lupa, jer iako doktrina kaže da 'ako postoji makar 1% šanse da se nešto dogodi, moramo da se ponašamo kao da će se to dogoditi'. Problem je što je to Čejni (zajedno sa CIA) zagovarao kao povod da Amerika bombarduje zemlje koje stvarno ili ne podržavaju teroriste, jer 'mošta prave ili razvijaju nuklearno oružje'.

 

VRT FIZIKE: Inteligencija bez ljudi

Umjetna inteligencija – pad na ispitu

Draško Dragović
Author: Draško Dragović
Dipl inž. Drago (Draško) I. Dragović, napisao je više naučno popularnih knjiga, te više stotina članaka za Astronomski magazin i Astronomiju, a učestvovao je i u nekoliko radio i TV emisija i intervjua. Interesuje ga pre svega astronautika i fizika, ali i sve teme savremenih tehnologija XXI veka, čiji detalji i problematika često nisu poznati široj čitalačkoj publici. Izgradio je svoj stil, lak i neformalan, često duhovit i lucidan. Uvek je spreman na saradnju sa svojim čitaocima i otvoren za sve vidove komunikacije i pomoći. Dragovićeve najpoznatije knjige su "KALENDAR KROZ ISTORIJU", "MOLIM TE OBJASNI MI" i nova enciklopedija "NEKA VELIKA OTKRIĆA I PRONALASCI KOJA SU PROMENILA ISTORIJU ČOVEČANSTVA"

Zadnji tekstovi:


Komentari  
Ljubomir
0 #4 Ljubomir 16-11-2021 03:48
-
- Ne zaboravite da vestacka inteligencija "ide" samo na struju (ili baterije)...
-
Ljubomir
+1 #3 Ljubomir 15-11-2021 06:01
-
- Bice isto kao i nakon pojave industrijskih masina, zeljeznice, automobila, aviona, nuklearne energije i slicnog. U pocetku, nakon pojave svake velike nove tehnologije, svi se zabrinu za sudbinu covecanstva, i stvarno se pojave grupe ljudi koje pokusaju da te tehnologije iskoriste za recimo grabljene vlasti, ratovanja ili razvoj kriminala, a onda se, pod pritiskom celog drustva, ubrzo pojave regulative koje "unormale" koriscenje te nove tehnologije i kanalisu, odrede nacine na koje ce se ta tehnologija koristiti u svakodnevnom zivotu i onda je koristimo kao kucni namestaj.
-
- Spomenucu ovde jedan malo zaboravljen primer, jednu malu analogiju. Covek je 5000 godina koristio konja kao prevozno sredstvo i bilo je dosta ljudi koji su padali sa konja i na zalost, bili trajno onesposobljeni pa cak su i poginuli. Dakle, nisu samo tehnologije iz poslednjih 100-200 godina opasne, i "stare" (za danasnje pojmove primitivne) tehnologije su isto nekome dosle glave. Tako ce verovatno i vestacka inteligencija postati opasna poput kuhinjskog noza.
-
Neđo
+1 #2 Neđo 09-11-2021 10:26
Nije to bas tako blizu. Ima vremena da se razmisli i smisli sta cemo i kako po pitanju buduceg problema. Uostalom, sve da nas nadvlada VI, prvo ce morati da obezbijede samoodrzavanje i reprodukciju, sto nije nimalo lako. A upravo za to bi im u pocetku bili potrebni mi, tako da nas se ne bi odma ratosiljali.

Veliku prepreku mora da preskoci danasnja VI da bi postala opasna. Svijest o samopostojanju je prelomna tacka, bez toga ih mi mozemo kljukati algoritmima i bazama podataka koliko hocemo, nece imati efekta.

No, kapitalizam je danas osnovni i najveci problem covjecanstva. Prevazidjen i potrosen sistem, donio je civilizaciji brojne koristi, ali odavno je vrijeme da se skloni necemu sto nije tako darvinisticko. Covjek je postao saosjecajno bice mnogo prije kapitalizma, a takav sistem nas vraca na neke zivotinjske instikte kojih smo se davno odrekli. Ne moze kapital da uredjuje svijet, to vodi u probleme. Po ovom pitanju narocito, interes kapitala i covjeka kada se radi o vjestackoj inteligenciji nece biti isti.
polux 11
+1 #1 polux 11 08-11-2021 23:52
Pre sam stava da treba da se plašimo ljudi koji stvaraju tu inteligenciju.T eško da bi u nekoj budućoj perspektivi ona bila lišena ljudske mračne strane (čudovišta iz ID-a)
Uvek sam bio oduševljen naučnim progresom, verujući u njegovu linearnost, ali sam došao u situaciju, kao Žil Vern u romanu Pariz u XX veku, (moje neskromno poređenje sa takvim velikanom), da počnem da sumnjam u dobre namere finansijera naučnog progresa, pre svega. Ko ima vremena neka pročita Pekićevu trilogiju: Besnilo, Atlantida i 1999. 1999. je posebno interesantna jer poslednji čovek na Zemlji Arno, priprema robota istog imena da bude začetnik robotske civilizacije, zato mu isključuje iz memorije "Robotske zakone". "Prvi robot" kaže za sebe: "Ja sam onaj koji jesam" (kao novi Isus Hrist), a u sebi je osećao opojno dejstvo novog osećanja da je slobodan i da ubija.
Dodaj komentar