Povodom članka: Legalizacija ubijanja robota

Zanimljiva tema, ali da ne preterujemo. AI je još jako daleko. "Inteligencija" današnjih robota jeste i dalje programirana. Jeste da su algoritmi sada beskonačno komplikovani, ali su i dalje algoritmi. Nepravilan rad neke današnje mašine može biti ili posledica kvara ili greške u programiranju ili nepredviđenog slučaja (koji jeste dao greške u programiranju).

Tesla Motors Model S 750x400

Npr. nedavno je jedan putnik poginuo u Tesla vozilu, dok ga je ovaj sam vozio. Istraga je pokazala je da odsjaj sunca na belom kamionu, naveo računar da pobrka kamion sa otvorenim putem.

Dakle, greška je bila u input senzorima (kamera), i u recognition algoritmu, a ne u AI.

Nedavno sam čitao zanimljiv tekst koji je pisala osoba koja radi na programiranju samovozećih automobila. Lepo je i jasno objasnio:

"Moramo predvideti i uprogramirati sve moguće slučajeve. Npr. slučaj da računar mora da bira da li da čuva pešaka pored puta, ili motoraša u drugoj traci, ili putnike u svom vozilu, u slučajevima kada je sudar neizbežan? To ne može i ne zna instinktivno da odluči računar. To moramo mi da uprogramiramo. Mi tada imamo moralne dileme, ne računar"

Zatim navodi brojne primere gde računar korišćenjem verovatnoće i ulaznih podataka, bira manje zlo, kada vidi da jedno od više "zala" mora da izabere. Recimo, da li motoraš kojeg bira između dva zla, ima ili nema kacigu, da li je tamo negde malo dete, da li udara u neki krš ili savremeni i bezbedan automobil.

Asimov nije uzeo u obzir će robot ponekad morati da bira između kršenja dve greške. A mi smo ga doveli u situaciju da mora da bira. Nije se sam našao tamo.

Tesla Motors of Trucks TSLA

Pozdrav

Miki

 


Veštačka inteligencija

Novi roboti! U trenutku pomislite da su ljudi.

„Artificial life”- digitalni organizmi

Transhumanizam - za i protiv


 


Komentari   

Filip
+1 #1 Filip 23-01-2017 20:25
"Dakle, greška je bila u input senzorima (kamera), i u recognition algoritmu, a ne u AI"

Pa, ispravnije je reći da tip AI-ja o kome govorimo nije bio tzv. "artificial general intelligence" (ili "strong AI" - jaka ili opšta veštačka inteligencija, koja trenutno ne postoji), pošto su i algoritmi kakvi se nalaze u ovakvim vozilima vid AI-a, samo što je u pitanju "weak AI" (slaba, ili specijalizovana vestacka inteligencija) - AI koji je dobar u rešavanju jednog konkretnog problema (ili klase bliskih problema). Čak i ta vrsta veštačke inteligencije ne mora biti isprogramirana u klasičnom smislu (tj. ne mora svako ponašanje da proizilazi iz namere programera) - postoje razni pristupi bazirani na heuristikama, evolucionim algoritmima, neuronskim mrežama, itd., gde se sistem delimično konstruiše, a delimično "trenira" dok se ne dovede u neko stanje za koje izgleda da daje zadovoljavajuće rezultate, a da pri tome programeri/inže njeri samo delimično znaju kako sve to zapravo radi.
Prijavi administratoru

Dodaj komentar


Sigurnosni kod
Osveži

Facebook

ODABRANA MESTA
Svet nauke
ADNOS vivafizika adastra
aduniverzum
astrobobo
zvjezdarnica
auvidulini eureka BOR logo
marininiafizika