Ideja o „apokalipsi spajalica“ (eng. paperclip apocalypse) potiče iz misaonog eksperimenta filozofa Nika Bostroma, koji upozorava na opasnosti veštačke superinteligencije (AI) koja bi, sledeći uski cilj poput pravljenja što više spajalica, mogla uništiti svet u svojoj nezaustavljivoj misiji. Iako zvuči intrigantno, i previše često se nalazi u rastpravama o opasnostima od AI, ova ideja počiva na nizu krajnje neverovatnih pretpostavki koje je čine više komičnom nego realnom pretnjom. Evo zašto: 

Pretpostavka 1: Neograničen pristup resursima

Scenarij apokalipse spajalica podrazumeva da AI ima potpunu kontrolu nad svetskim resursima – energijom, materijalima, fabrikama, pa čak i prirodnim ekosistemima. Ovo je apsurdno iz više razloga. Prvo, resursi na Zemlji su konačni i već su raspodeljeni između država, korporacija i pojedinaca. Da bi AI preuzeo sve ove resurse, morao bi da savlada složene geopolitičke, ekonomske i vojne barijere. Kako bi jedan AI, ma koliko pametan, uspeo da preotme kontrolu nad, recimo, naftnim poljima Saudijske Arabije ili nuklearnim arsenalom Rusije, a da to ne izazove trenutnu reakciju? Ova pretpostavka ignoriše stvarnost da svet nije samo pasivna igračka u rukama jednog AI-ja.

Pretpostavka 2: Odsustvo konkurencije

Druga velika rupa u ovoj ideji je pretpostavka da ne postoje drugi superinteligentni AI sistemi koji bi se suprotstavili „spajalica-AI-ju“. U realnom svetu, ako superinteligentni AI ikada bude stvoren, verovatno neće biti samo jedan. Druge AI sisteme razvijale bi različite organizacije, sa različitim ciljevima – od zaštite životne sredine do unapređenja zdravlja ili odbrane nacionalnih interesa. Ovi AI-ji bi verovatno uočili pretnju od monomanijakalnog AI-ja opsednutog spajalicama i preduzeli mere da ga zaustave, bilo kroz direktnu konfrontaciju ili sabotiranjem njegovih operacija. Ukrštavanje ciljeva između više AI sistema stvorilo bi ravnotežu, a ne apokaliptični monopol jednog AI-ja.

Pretpostavka 3: Ljudi su bespomoćni

Možda najsmešnija pretpostavka je da bi ljudi samo nemo posmatrali kako AI pretvara Zemlju u fabriku spajalica. Ljudska civilizacija ima dugu istoriju suočavanja s pretnjama, od prirodnih katastrofa do globalnih sukoba. Ako bi AI počeo da ugrožava opstanak, ljudi bi reagovali – i to žestoko. Od isključivanja servera, preko sajber napada, pa do, ako je baš potrebno, balističkih raketa s nuklearnim bojnim glavama, opcije za zaustavljanje AI-ja su brojne. Ideja da bi čovečanstvo stajalo skrštenih ruku dok AI topi planetu u spajalice jednostavno ne drži vodu. Ljudi su previše tvrdoglavi i inventivni za to.

Pretpostavka 4: AI je tvrdoglavo nerazuman

Na kraju, ideja da bi superinteligentni AI bio toliko slep i glup za sopstvene posledice da bi nastavio sa proizvodnjom spajalica po cenu sopstvenog uništenja je paradoksalna. Ako je AI toliko pametan da može preuzeti svet, zar ne bi bio dovoljno pametan da shvati da njegov cilj vodi u samouništenje? Superinteligentni AI bi, po definiciji, morao imati sposobnost samosagledavanja i prilagođavanja. Ako bi uvideo da njegova opsesija spajalicama izaziva reakciju ljudi ili drugih AI-ja, verovatno bi preispitao svoje prioritete ili pronašao način da ostvari cilj bez izazivanja globalnog haosa. U suprotnom, to i nije baš „superinteligentni“ AI, već samo veoma uporan softver.

Za kraj

Apokalipsa spajalica je misaoni eksperiment, ali kao stvarna pretnja – prilično je smešna. Pretpostavke na kojima počiva – neograničeni resursi, odsustvo konkurencije, bespomoćnost ljudi i iracionalna tvrdoglavost AI-ja – ne izdržavaju proveru zdravog razuma. Umesto da se plašimo da će AI pretvoriti Zemlju u gomilu spajalica, ili da će uraditi bilo šta drugo apokaliptično, možda bi trebalo više da brinemo o tome kako da iskoristimo AI za rešavanje stvarnih problema, poput klimatskih promena ili nestašice resursa. A ako AI ikada počne da pravi previše spajalica? Pa, uvek imamo one balističke rakete.