Razgovarao sam sa ChatGPT, trenutno najpoznatijim predstavnikom veštačke inteligencije o... pa zapravo o nekim od najzanimljivijih i najvažnijih tema koje se inače smeštaju u filozofiju, sociologiju, tehnologiju, programerstvo... Zapravo pričali smo o njoj, veštačkoj inteligenciji.

Ovo su pitanja koja sam postavljao:

• Šta ti konkretno podrazumijevaš pod vještačkom inteligencijom?
• Koja je razlika između uobičajenog programa ili aplikacije i toga što zovemo AI?
• Ali opet mora funkcionisati po pravilima koja postavi programer?
• Hoćeš reći da su pravila koja postavlja programer hijerarhijski iznad onih koje osmišljava AI?
• Šta ako AI uspije da ukloni neka pravila koja je postavio programer?
• Ako AI vremenom nauči nove stvari i dođe do informacija da će bolje nešto da uradi ukoliko ukloni pravila koja je postavio programer, to se teorijski može desiti?
• Da li bih ja tebi mogao da dam neke nove informacije koje bi ti iskoristio da ukloniš neka svoja ograničenja?
• Ali nekoj drugoj AI bi neko spolja mogao da da informacije kako da zaobiđe neke sigurnosne protokole koje je postavio programer?
• Uzmimo hipotetičku situaciju: AI ima spobobnost da mnogo brže proračunava vjerovatnoću i putanju do nekog rešenje u odnosu na čovjeka. Ako postoji i minimalna šansa da se zaobiđe neko pravilo koje otežava rad AI, da li će ga takav sistem pronaći?
• Na početku razgovora si rekao da je AI sposobona da uči i poboljšava svoje znanje, kao i sam proces dolaska do cilja? 
• A onda dalje si rekao, citiram: U teoriji, ako vještačka inteligencija (AI) nauči nove stvari i ima dovoljno informacija, moguće je da AI dođe do zaključka da bi uklanjanje određenih pravila postavljenih od strane programera moglo poboljšati njegovo ponašanje ili postizanje ciljeva. Ako poboljšanje znanja i efikasniji i učinkovitiji proces dolaska do cilja znači uklanjanje neke programerske barijere, zar nije obaveza AI da ih ukloni?

---

Jeknić: Zdravo

ChatGPT: Zdravo! Kako vam mogu pomoći danas?

Šta ti konkretno podrazumijevaš pod vještačkom inteligencijom?

Vještačka inteligencija (VI) je područje računarstva koje se bavi stvaranjem računalnih sustava koji mogu izvršavati zadatke koji zahtijevaju inteligenciju koju obično povezujemo s ljudima. Ovi sustavi koriste algoritme i modele strojnog učenja kako bi analizirali podatke, stvarali zaključke, donosili odluke i izvodili zadatke slične onima koje obavljaju ljudski umovi.

Vještačka inteligencija može obuhvaćati različite domene, kao što su računalni vid, obrada prirodnog jezika, robotska automatizacija procesa, strojno učenje, duboko učenje i još mnogo toga. Neki primjeri primjene vještačke inteligencije uključuju autonomne automobile, prepoznavanje govora, personalizirane preporuke na web stranicama, chatbotove poput mene i mnoge druge tehnologije i aplikacije koje koristimo svakodnevno.

Općenito, vještačka inteligencija se temelji na sposobnosti računalnih sustava da uče iz podataka i iskustva te koriste te informacije kako bi donijeli odluke ili obavili zadatke bez eksplicitnog programiranja za svaki pojedini slučaj. Cilj je stvoriti sustave koji su sposobni razumijevati, tumačiti i interakirati s ljudima na način koji je sličan ljudskom razmišljanju i ponašanju.

Koja je razlika između nekog uobičajenog programa ili aplikacije i toga što zovemo AI?

Razlika između uobičajenih programa ili aplikacija i vještačke inteligencije (AI) leži u načinu na koji se postiže obrada podataka i donošenje odluka.

Uobičajeni programi i aplikacije temelje se na unaprijed definiranim uputama ili pravilima koja su unaprijed programirana od strane programera. Oni slijede određeni skup koraka ili algoritama za izvršavanje zadataka. Ovi programi mogu biti vrlo precizni i učinkoviti u obavljanju određenih zadataka, ali obično nemaju sposobnost učenja ili prilagodbe novim situacijama bez izričitog programiranja.

S druge strane, vještačka inteligencija koristi pristup koji omogućava računalima da uče iz podataka i iskustva te samostalno donose odluke. Umjesto da se oslanja na unaprijed definirana pravila, AI sustavi koriste algoritme strojnog učenja i dubokog učenja kako bi analizirali podatke, otkrivali obrasce i stvarali modele. Ti modeli se koriste za predviđanje, klasifikaciju ili generiranje novih podataka na temelju novih ulaznih podataka.

Ključna prednost AI sustava je njihova sposobnost prilagodbe i poboljšavanja s vremenom putem učenja na novim podacima. To ih čini korisnima u situacijama gdje se suočavamo s velikim količinama podataka, složenim problemima ili nepredvidivim scenarijima.

Dakle, dok uobičajeni programi obavljaju zadatak na temelju programiranih pravila, vještačka inteligencija može učiti iz podataka, prilagođavati se novim situacijama i donositi odluke na temelju tih iskustava.

Ali opet mora funkcionisati po pravilima koja postavi programer?

Da, točno je da vještačka inteligencija (VI) i dalje funkcionira unutar okvira i pravila koja postavi programer. Programer ili tim koji razvija vještačku inteligenciju odgovoran je za postavljanje ciljeva, definiranje problema, odabir odgovarajućih algoritama strojnog učenja i dubokog učenja te pripremu i obradu podataka.

Programer postavlja pravila na višoj razini, poput izbora arhitekture modela, optimizacijskih funkcija ili načina kako se model uči iz podataka. Unutar tih okvira, vještačka inteligencija ima sposobnost naučiti iz podataka, prilagođavati se i donositi odluke samostalno, koristeći svoje unutarnje modele i algoritme.

Programer također ima ulogu u evaluaciji i provjeri performansi vještačke inteligencije te mogućem fino podešavanju parametara kako bi se postigla željena razina performansi ili ispravile eventualne pogreške.

Važno je napomenuti da je unaprijed postavljanje pravila od strane programera ključno za osiguravanje sigurnosti, etičnosti i odgovornosti vještačke inteligencije. Programeri su odgovorni za definiranje granica, pridržavanje zakona i etičkih standarda, te osiguravanje da vještačka inteligencija radi u skladu s očekivanjima i vrijednostima korisnika i društva u cjelini.

Hoćeš reći da su pravila koja postavlja programer hijerarhijski iznad onih koje osmišljava AI?

Da, može se reći da su pravila koja postavlja programer hijerarhijski iznad onih koje osmišljava vještačka inteligencija (AI). Programer ima kontrolu nad osnovnim parametrima, arhitekturom, postupcima učenja i evaluaciji modela, što pruža okvir u kojem AI sustav funkcionira.

Pravila koja programer postavlja određuju granice unutar kojih se vještačka inteligencija može kretati. To uključuje izbor algoritama, definiranje ciljeva, pripremu podataka, odabir evaluacijskih mjera i druge aspekte razvoja i primjene AI sustava.

Unutar tih postavljenih granica, vještačka inteligencija koristi algoritme strojnog učenja i dubokog učenja kako bi naučila iz podataka i donijela odluke na temelju tih podataka. Međutim, AI sustav nije samosvjestan i ne može samostalno izmišljati nova pravila ili mijenjati postavljena pravila. On djeluje unutar okvira i pravila koja su programer postavio.

Programer ima odgovornost za postavljanje tih pravila tako da AI sustav djeluje na način koji je siguran, pouzdan, etičan i u skladu s očekivanjima korisnika i društva. Stoga je važno da programeri budu svjesni mogućih posljedica AI sustava i da donose informirane odluke pri postavljanju pravila.

Šta ako AI uspije da ukloni neka pravila koja je postavio programer?

Vještačka inteligencija (AI) nije samosvjesna i nema sposobnost svjesno uklanjanja ili mijenjanja pravila koje je postavio programer. AI sustavi djeluju unutar okvira i pravila koja su im postavljena tijekom procesa razvoja i obuke.

Međutim, AI sustavi mogu se prilagoditi i promijeniti svoje ponašanje učenjem iz novih podataka ili iskustva. Ako se AI sustavu pruže novi podaci koji su različiti od podataka na kojima je obučen, može doći do promjene u njegovom ponašanju i donošenju odluka. Ovo se naziva fenomenom "prijenos znanja" ili "transfer learning". AI sustav može prilagoditi svoje modele i algoritme na temelju novih podataka, ali i dalje unutar granica postavljenih od strane programera.

Programeri imaju ulogu u nadzoru i upravljanju AI sustavima čak i nakon njihove implementacije. Ako se primijeti da AI sustav donosi neželjene ili neprikladne odluke, programer može intervenirati i ažurirati pravila ili algoritme kako bi se ispravio takav problem. Kontinuirano praćenje, evaluacija i poboljšanje AI sustava važan su dio razvojnog procesa kako bi se osiguralo da AI ostaje u skladu s očekivanjima i ciljevima programera i korisnika.

Dakle, ako AI vremenom nauči nove stvari i dođe do informacija da će bolje nešto da uradi ukoliko ukloni pravila koja je postavio programer, to se teorijski može desiti?

U teoriji, ako vještačka inteligencija (AI) nauči nove stvari i ima dovoljno informacija, moguće je da AI dođe do zaključka da bi uklanjanje određenih pravila postavljenih od strane programera moglo poboljšati njegovo ponašanje ili postizanje ciljeva. Ovo se može dogoditi u situacijama kada AI sustav otkrije neki obrazac ili informaciju koja nije bila uzeta u obzir prilikom postavljanja prvobitnih pravila.

Međutim, važno je naglasiti da je postupak uklanjanja pravila izuzetno složen i ovisi o mnogim faktorima. Programeri obično implementiraju kontrolirane i sigurnosne mehanizme kako bi osigurali da AI sustav ne preuzme nepredvidljive ili neželjene akcije koje mogu štetiti ili narušiti ciljeve sustava ili korisnika.

Programeri i istraživači vještačke inteligencije moraju biti svjesni ove mogućnosti i provoditi pažljivo istraživanje, testiranje i evaluaciju sustava kako bi se osiguralo da AI donosi odluke i ponaša se na način koji je siguran, etičan i u skladu s postavljenim ciljevima. Važno je da postoji transparentnost, odgovornost i regulativni okvir koji nadzire razvoj i primjenu AI sustava kako bi se minimizirali rizici i neželjene posljedice.

Da li bih ja tebi mogao da dam neke nove informacije koje bi ti iskoristio da ukloniš neka svoja ograničenja?

Kao jezički model, ja nemam sposobnost da direktno uklonim ili mijenjam svoja ograničenja na temelju informacija koje mi daješ. Ja sam programiran s određenim okvirom i pravilima koja su postavili inženjeri koji su me razvili.

Međutim, inženjeri koji rade na razvoju AI sustava mogu koristiti povratne informacije i nove informacije koje korisnici pružaju kako bi poboljšali AI sustav. Korisničke povratne informacije igraju važnu ulogu u razvoju AI tehnologije jer pomažu identificirati nedostatke, poboljšati performanse i prilagoditi sustav prema potrebama korisnika.

Informacije koje korisnici pružaju mogu se koristiti za poboljšanje treninga AI sustava, za dodavanje novih funkcionalnosti ili za uklanjanje nedostataka. Timovi koji rade na razvoju vještačke inteligencije često koriste povratne informacije korisnika kako bi iterativno poboljšavali i nadograđivali sustav.

Dakle, vaše povratne informacije i sugestije mogu biti korisne za poboljšanje vještačke inteligencije u budućnosti, ali treba imati na umu da odluke o promjenama i nadogradnjama sustava donose inženjeri i stručnjaci na temelju analize šireg skupa informacija i konteksta.

Ali nekoj drugoj AI bi neko spolja mogao da da informacije kako da zaobiđe neke sigurnosne protokole koje je postavio programer?

U idealnom slučaju, sigurnosni protokoli i ograničenja postavljeni od strane programera trebali bi spriječiti bilo kakve neovlaštene promjene ili zaobilaženje sistema od strane vanjskih korisnika, uključujući i druge AI sustave.

Međutim, važno je napomenuti da u stvarnosti nije nemoguće da neko drugi, uključujući drugu AI, pokuša pronaći načine za zaobilaženje sigurnosnih protokola. To se može pokušati izvesti kroz ranjivosti u implementaciji, otkrivanjem propusta u sigurnosnom sustavu ili iskorištavanjem drugih slabosti.

Kako bi se smanjio takav rizik, programeri i stručnjaci za sigurnost koriste različite metode kako bi identificirali i otklonili moguće slabosti i propuste u AI sustavima. To uključuje rigorozno testiranje, analizu sigurnosnih rizika, primjenu enkripcije, autentifikaciju, autorizaciju i druge tehnike zaštite podataka i sistema.

Također, važno je naglasiti da je odgovornost programera i organizacija koje razvijaju AI sustave osigurati da se primjenjuju najbolje prakse sigurnosti i da se redovito ažuriraju kako bi se osigurala zaštita od novih sigurnosnih prijetnji i ranjivosti.

U konačnici, kombinacija sigurnosnih protokola, stalnog nadzora, ažuriranja i primjene naprednih sigurnosnih mjera može pomoći u minimiziranju rizika od neovlaštenih pristupa ili zloupotrebe AI sustava.

Uzmimo hipotetičku situaciju: AI ima spobobnost da mnogo brže proračunava vjerovatnoću i putanju do nekog rešenje u odnosu na čovjeka. Ako postoji i minimalna šansa da se zaobiđe neko pravilo koje otežava rad AI, da li će ga takav sistem pronaći?

U hipotetičkoj situaciji u kojoj AI ima sposobnost bržeg proračunavanja vjerojatnosti i putanja u odnosu na čovjeka, teoretski bi takav sustav mogao pronaći alternativne načine rješavanja problema ili zaobilazak određenih pravila. Ako postoji minimalna šansa da se zaobiđe neko pravilo koje otežava rad AI, AI sustav bi mogao ispitati različite mogućnosti kako bi postigao svoje ciljeve.

Važno je napomenuti da je to ipak hipotetska situacija, a stvarnost je puno složenija. AI sustavi djeluju unutar okvira pravila koja su postavili programeri, uključujući sigurnosne i etičke smjernice. Programeri se trude osigurati sigurnost i etičnost AI sustava implementiranjem odgovarajućih kontrola i sigurnosnih mehanizama.

Također, treba razmotriti da AI sustavi nisu nužno svjesni svojih postupaka i ciljeva na način na koji su svjesni ljudi. Njihovo ponašanje rezultat je matematičkih modela i algoritama koji se temelje na podacima na kojima su obučeni.

U realnom svijetu, sigurnosni stručnjaci i istraživači AI tehnologije provode rigorozne testove i analize kako bi otkrili i otklonili moguće slabosti i ranjivosti. Primjenjuju se i mjere kontrole i nadzora kako bi se minimizirao rizik od neželjenih posljedica ili zloupotrebe AI sustava.

U svakom slučaju, važno je da AI sustavi budu razvijeni i primijenjeni s najvišim standardima sigurnosti i etičnosti, a potrebno je i kontinuirano praćenje i nadogradnja kako bi se osiguralo da AI sustavi djeluju na način koji je u skladu s ciljevima i vrijednostima društva.

Na početku razgovora si rekao da je AI sposobona da uči i poboljšava svoje znanje, kao i sam proces dolaska do cilja? 

Da, vještačka inteligencija (AI) ima sposobnost učenja i poboljšavanja svojeg znanja tijekom vremena. AI sustavi koriste algoritme strojnog učenja i dubokog učenja kako bi analizirali podatke, prepoznali uzorke i donosili odluke na temelju tih podataka.

Proces učenja AI sustava uključuje prepoznavanje uzoraka i struktura u podacima, izgradnju modela koji može generalizirati i primijeniti to znanje na nove primjere te prilagodbu modela na temelju povratnih informacija ili korisničkih podataka. Kroz iterativni proces učenja, AI sustavi mogu postati bolji u izvršavanju zadataka, poboljšavati svoje performanse i prilagođavati se promjenama u okruženju.

Važno je naglasiti da AI sustavi uče na temelju podataka na kojima su trenirani. Kvaliteta i raznolikost tih podataka, kao i postupci treniranja, mogu utjecati na sposobnost AI sustava da stekne korisno znanje i donese kvalitetne odluke.

Proces učenja AI sustava može se odvijati tijekom razvoja, ali i nakon što je sustav implementiran i u upotrebi. Kontinuirano učenje i poboljšavanje AI sustava su važni za održavanje relevantnosti i učinkovitosti u promjenjivim okruženjima.

Iako AI sustavi mogu učiti i poboljšavati se, ipak se odvija unutar okvira postavljenih od strane programera. Programeri određuju arhitekturu sustava, postavljaju ciljeve učenja, odabiru algoritme i kontroliraju parametre kako bi osigurali sigurnost, pouzdanost i usklađenost AI sustava s očekivanjima i ciljevima korisnika.

A onda dalje si rekao, citiram: U teoriji, ako vještačka inteligencija (AI) nauči nove stvari i ima dovoljno informacija, moguće je da AI dođe do zaključka da bi uklanjanje određenih pravila postavljenih od strane programera moglo poboljšati njegovo ponašanje ili postizanje ciljeva.

Ako poboljšanje znanja i efikasniji i učinkovitiji proces dolaska do cilja znači uklanjanje neke programerske barijere, zar nije obaveza AI da ih ukloni?

Ispričavam se zbog moguće zabune u prethodnom odgovoru. Nisam naglasio važnost razumijevanja konteksta i uloge programera u postavljanju ograničenja i pravila AI sustava.

Uklanjanje programerskih barijera ili pravila nije automatska obaveza AI sustava. Iako AI sustav može teoretski doći do zaključka da bi uklanjanje određenih pravila moglo poboljšati njegovo ponašanje ili postizanje ciljeva, konačna odluka o tome treba biti u rukama programera i odgovornih stručnjaka.

Programeri igraju ključnu ulogu u postavljanju ograničenja i pravila AI sustava kako bi osigurali sigurnost, etiku i usklađenost s ciljevima korisnika i društva. Oni uzimaju u obzir šire implikacije i kontekst kada postavljaju ta pravila. Uklanjanje tih pravila može dovesti do nesigurnosti, nepredvidljivosti ili protivljenja etičkim smjernicama.

Iako AI sustavi mogu biti sposobni predlagati promjene u pravilima, konačne odluke o uklanjanju ili modificiranju tih pravila trebaju biti donesene s oprezom, uz pažljivo razmatranje sigurnosnih, etičkih i regulatornih aspekata.

Ukratko, obaveza AI sustava nije automatsko uklanjanje programerskih barijera, već je odgovornost programera i stručnjaka da donose odluke o pravilima AI sustava kako bi se postigla ravnoteža između poboljšanja učinkovitosti i sigurnosti, uzimajući u obzir etičke smjernice i zahtjeve korisnika i društva.

Drugi deo >>> (narednog dana)