Koji je najvažniji vek u ljudskoj istoriji? Neki bi tvrdili da je to period opsežnih vojnih kampanja, poput onih Aleksandra Velikog iz 300-ih g.p.n.e, koje su preoblikovale političke i kulturološke granice. Drugi bi naveli pojavu veće religije, poput islama u VII veku, koji je kodifikovao i proširio vrednosti širom granica. Ili je to možda industrijska revolucija iz 1700-ih koja je transformisala globalnu trgovinu i redefinisala odnos ljudi prema radu. Koji god bio odgovor, čini se da je svaki vek koji se nadmeće za prvu poziciju trenutak velike promene - kada su postupci naših predaka izmenili putanju čovečanstva u nadolazećim vekovima. Ukoliko nam je to merilo, da li je moguće da je upravo sad - ovaj vek - najvažniji od svih prethodnih?

01:05

Već se ispostavilo da je XXI vek period ubrzanog tehnološkog napretka. Telefoni i kompjuteri su ubrzali životni ritam. I verovatno smo na ivici razvoja novih preobražajnih tehnologija, poput napredne veštačke inteligencije, koje bi mogle u potpunosti da promene način na koji ljudi žive. Istovremeno, mnoge tehnologije koje već posedujemo doprinose nivoima egzistencijalnog rizika bez presedana po čovečanstvo - a to je rizik od izumiranja naše vrste ili doživljavanja nekakve katastrofe koja bi trajno ograničila sposobnost čovečanstva da raste i napreduje. Izum atomske bombe je obeležio ogroman rast u egzistencijalnom riziku, a otad smo samo uvećali izglede protiv nas. Istinski je komplikovano izračunati izglede od egzistencijalnog kolapsa u ovom veku. Krajnje okvirna nagađanja procenjuju rizik od egzistencijalne katastrofe zbog nuklearne zime i klimatskih promena na oko 0,1%, sa izgledima da isti kolaps izazove pandemija na zastrašujućih 3%.

02:14

Kako bi bilo koja od ovih katastrofa mogla da znači kraj života kakvog znamo, ne radi se baš o sitnim brojkama. A moguće je da će ovaj vek posvedočiti usponu novih tehnologija koje će uvesti dodatni egzistencijalni rizik. Stručnjaci za VI imaju širok dijapazon procena u vezi sa tim kada će se pojaviti veštačka opšta inteligencija, ali prema nekim anketama, mnogi veruju da bi se to moglo desiti u ovom veku. Trenutno imamo relativno svedene oblike veštačke inteligencije, koji su osmišljeni da obavljaju specifične zadatke, poput igranja šaha ili prepoznavanja lica. Čak i svedene VI koje obavljaju kreativne poslove ograničene su na pojedinačnu specijalnost. Međutim, veštačke opšte inteligencije ili VOI bi mogle da bude prilagodljive i da izvode brojne zadatke, brzo nadmašujući svoje ljudske pandane. Pretpostavke kako bi VOI mogla da izgleda uveliko variraju, kao i šta bi to značilo za čovečanstvo da deli zemlju sa drugim svesnim entitetom. VOI bi mogla da nam pomogne u ispunjavanju ciljeva, mogla bi da nas smatra beznačajnim ili bi mogla da gleda na nas kao na prepreku koju treba hitno ukloniti. Te je u smislu egzistencijalnog rizika suštinski važno da se vrednosti ove nove tehnologije podudare sa našim. Radi se o izuzetno komplikovanom filozofskom i inženjerskom izazovu koji će zahtevati mnogo prefinjenog, promišljenog rada. Ipak, čak i ako uspemo, VOI bi i dalje mogla da dovede do drugog složenog ishoda.

03:46

Recimo da se VOI pojavi sa istinskim poštovanjem za ljudski život i željom da reši sve ljudske neprilike. Međutim, kako bi se izbegla nekompatibilnost, razvijena je da bude krajnje rigidna u vezi sa svojim uverenjima. Ukoliko ove mašine postanu dominantna sila na zemlji, njihove stroge vrednosti bi mogle postati hegemonističke i učauriti čovečanstvo u jednu ideologiju koja bi bila krajnje otporna na promene. Iz istorije smo naučili da koliko god prosvetljenom neka civilizacija smatrala sebe, retko doseže moralne standarde kasnijih generacija. A ovakav vid učaurivanja vrednosti bi mogao trajno iskriviti ili ograničiti moralni rast čovečanstva.

04:30

Postoji gomila neizvesnosti u vezi sa VOI, a istinski je teško predvideti kako će bilo koji egzistencijalni rizik da se odvija u narednom veku. Takođe je moguće da bi zbog novih, hitnijih briga ovi rizici mogli biti prevaziđeni. Međutim, čak i ako ne možemo sa sigurnošću tvrditi da je naš vek najvažniji, i dalje se čini da bi odluke koje donosimo mogle da imaju značajan uticaj na budućnost čovečanstva. Stoga bi svi možda trebalo da živimo kao da budućnost zavisi od nas - jer bi zapravo baš to i mogao da bude slučaj.