Brojni su stručnjaci zabrinuti zbog prenaglog razvoja sustava temeljenih na umjetnoj inteligenciji. Donosimo scenarije u kojima bi se čovječanstvu zbog toga moglo crno pisati

Posljednjih mjeseci umjetna inteligencija je toliko brzo napredovala da su vodeći istraživači potpisali otvoreno pismo pozivajući na hitno zaustavljanje njenog razvoja i strožu regulaciju, strahujući da bi tehnologija mogla predstavljati duboke rizike za društvo i čovječanstvo. O kakvim se rizicima radi? Evo pregleda pet načina na koje umjetna inteligencija može uništiti svijet.

Postanemo li manje inteligentni, nestat ćemo

U povijesti Zemlje više puta se dogodilo da su pametnije vrste izgurale ostale sa scene. Mi ljudi smo to radili drugim vrstama, ali isto se može dogoditi i nama.

Trik je u tome da vrsta kojoj prijeti brisanje često nema pojma zašto joj se to događa i kako. Ipak, postoje neke naznake toga. Recimo, pojedine vrste istrijebili smo u potrazi za resursima.

Ako imate strojeve koji kontroliraju planet, a oni su zainteresirani za puno računanja i žele povećati svoju računalnu infrastrukturu, prirodno je da za to žele resurse koje i mi koristimo. Usprotivimo li se, postajemo štetočina i smetnja.

Šteta koju radi umjetna inteligencija već je katastrofa svoje vrste

Ostane li stanje stvari kakvo jest, moćne tvrtke nastavit će razvijati i implementirati umjetnu inteligenciju na načine koji su široj javnosti nevidljivi i nejasni.

Štete koje nam umjetna inteligencija nanosi događaju se već sad svaki dan. Primjerice, korištenjem moćne algoritamske tehnologije za posredovanje u našim međusobnim odnosima te između nas i institucija.

Algoritmi koji se koriste za, recimo, pružanje socijalne pomoći nerijetko diskriminiraju korisnike koji su siromašni ili marginalizirani. Također lažno optužuju ljude za zločine, određuju hoće li ljudi dobiti smještaj u javnim stanovima, automatiziraju provjeru životopisa i intervjue za posao...

Svaki dan te štete predstavljaju egzistencijalne rizike, ponajprije na račun ranjivih pojedinaca i skupina. Potrebno je osnažiti i ubrzati istraživačku agendu koja odbacuje štetu kao neizbježan nusprodukt tehnološkog napretka.

Može nam željeti smrt, ali i poticati postupke koji bi nas mogli usput ubiti

Umjetna inteligencija mogla bi nas poželjeti ukloniti kako ne bismo stvorili druge s kojima bi se natjecala. Također, možda će htjeti raditi stvari koje bi uništile život na Zemlji kakav poznajemo.

Naprimjer, izgraditi toliko elektrana koje pokreću nuklearnu fuziju - jer oceani obiluju vodikom - da oceani proključaju. Ili bi, u dovoljno naprednom obliku, mogla izgraditi mali molekularni laboratorij, u kojem bi proizvodila i potom oslobađala smrtonosne bakterije.

Prije no što će se sama moći obračunati s nama, za te bi svrhe mogla koristiti ljude. Već su zabilježeni slučajevi u kojima je umjetna inteligencija lagala u odgovorima na izravna pitanja o svojoj prirodi.

Učinit će nas suvišnima

Može se očekivati da će modeli umjetne inteligencije u sve većoj mjeri preuzimati zadaće koje danas obavljaju ljudi. S vremenom će to biti sve češća pojava jer su sustavi umjetne inteligencije jeftiniji i brže rade.

U takvom scenariju ljudi koji se ne oslanjaju na umjetnu inteligenciju postaju nekonkurentni.

Uz takvu vrstu oslanjanja, mogli bismo brzo završiti u položaju današnje djece: svijet je za neku djecu dobar ili loš, ali to uglavnom ovisi o tome postoje li odrasli uz njih koji djeluju u njihovom interesu ili ne.

U takvom bi svijetu umjetna inteligencija imala puno poluga na koje bi se mogla osloniti jer bi - na ovaj ili onaj način - upravljala policijom, vojskom i najvećim tvrtkama, izmišljala tehnologije i razvijala politiku.

Društvo treba prostora i vremena da bi se naviklo i prihvatilo svaki pojedini stupanj razvoja umjetne inteligencije.

Pustošenje

Najlakši scenarij koji se može zamisliti je onaj u kojem osoba ili organizacija namjerno koristi umjetnu inteligenciju kako bi izazvala pustoš. Zasad ona nema takav kapacitet, ali to nije nezamislivo za desetak godina.

Tim više što u takvom razvoju situacije umjetna inteligencija ne mora djelovati samostalno. Iako ni razvoj vlastitih ciljeva u sklopu sustava umjetne inteligencije nije mogućnost koju treba tek tako otpisati.

A to itekako može poći po zlu za čovječanstvo i svijet u cjelini, pogotovo ako stvorimo - slučajno ili namjerno - sustav s nagonom za preživljavanje, piše Guardian.