Utrka za što bržim plasiranjem umjetne inteligencije na tržište povećala je rizik od katastrofe razmjera pada Hindenburga, koja bi mogla uništiti povjerenje javnosti u tu tehnologiju, upozorio je jedan od vodećih svjetskih istraživača.

Michael Wooldridge, profesor umjetne inteligencije sa Univrziteta  Oxford, smatra da opasnost leži u golemom komercijalnom pritisku na tehnološke kompanije da što prije izbace nove AI alate, očajnički pokušavajući privući korisnike prije nego što se u potpunosti shvate mogućnosti i potencijalne mane proizvoda, piše The Guardian.

Pojava AI chatbotova čiji se sigurnosni mehanizmi lako zaobilaze pokazala je kako su komercijalni interesi prevagnuli nad opreznijim pristupom razvoju i sigurnosnom testiranju, rekao je. "To je klasičan scenarij u svijetu tehnologije", izjavio je.

"Imate tehnologiju koja mnogo obećava, ali nije testirana onoliko rigorozno koliko bi trebala biti, dok je komercijalni pritisak da se ona lansira jednostavno neizdrživ."

Hindenburg kao upozorenje

Wooldridge, koji će u srijedu održati predavanje Kraljevskog društva pod naslovom "Ovo nije umjetna inteligencija kakvu su nam obećali", rekao je da je "hindenburški trenutak" vrlo izgledan dok se kompanije utrkuju s implementacijom sve naprednijih AI alata.

Hindenburg, cepelin dug 245 metara koji je letio preko Atlantika, pripremao se za slijetanje u New Jersey 1937. godine kada ga je zahvatio plamen, pri čemu je poginulo 36 ljudi. Požar je izazvala iskra koja je zapalila 200.000 kubičnih metara vodika koji je letjelicu držao u zraku.

"Katastrofa Hindenburga pokopala je globalni interes za cepeline; od tog trenutka tehnologija je bila mrtva, a sličan scenarij predstavlja stvaran rizik i za umjetnu inteligenciju", rekao je Wooldridge. Budući da je AI ugrađen u brojne sisteme, veliki incident mogao bi pogoditi gotovo svaki sektor.

Mogući scenariji katastrofe

Scenariji koje Wooldridge predviđa uključuju smrtonosnu nadogradnju softvera za samovozeće automobile, hakerski napad potpomognut umjetnom inteligencijom koji bi prizemljio svjetske avio kompanije ili kolaps velike finansijske institucije, izazvan time što je AI napravio neku veliku grešku, prenosi Index.

 "To su vrlo, vrlo izgledni scenariji", rekao je. "Postoji niz načina na koje umjetna inteligencija može poći po zlu na vrlo javan način." Unatoč zabrinutosti, Wooldridge je naglasio da mu namjera nije napadati modernu umjetnu inteligenciju.

Njegova polazišna tačka je jaz između onoga što su istraživači očekivali i onoga što se pojavilo. Mnogi stručnjaci očekivali su AI koji računa rješenja problema te daje tačne i potpune odgovore. "Današnja umjetna inteligencija nije ni tačna ni potpuna, već je vrlo, vrlo aproksimativna", rekao je.

To proizlazi iz činjenice da veliki jezični modeli, koji su temelj današnjih AI chatbotova, generiraju odgovore predviđanjem sljedeće riječi na temelju vjerojatnosti naučenih tokom obuke. To dovodi do umjetne inteligencije s neujednačenim sposobnostima: nevjerojatno je učinkovita u nekim zadacima, a očajna u drugima.

Opasnost od poljudskavanja tehnologije

Problem je, kaže Wooldridge, što AI chatbotovi griješe na nepredvidive načine i nemaju svijest o tome kada su pogriješili, ali su dizajnirani da uvijek daju samouvjerene odgovore. Kada su ti odgovori oblikovani da zvuče ljudski i uljudno, lako mogu zavarati ljude, dodao je.

Rizik je u tome da se ljudi prema umjetnoj inteligenciji počnu odnositi kao prema ljudskim bićima. U istraživanju Centra za demokraciju i tehnologiju iz 2025., gotovo trećina studenata izjavila je da su oni ili njihovi prijatelji imali romantičnu vezu s umjetnom inteligencijom.

"Kompanije žele predstaviti umjetnu inteligenciju na vrlo ljudski način, ali mislim da je to opasan put", rekao je Wooldridge. "Moramo shvatiti da su to samo ušminkane proračunske tablice, alati i ništa više."

Usporedba sa Zvjezdanim stazama

Wooldridge vidi pozitivne strane u vrsti umjetne inteligencije prikazane u ranim sezonama Zvjezdanih staza. U jednoj epizodi iz 1968. godine, Spock postavlja upit računalu na Enterpriseu, na što mu ono izrazito neljudskim glasom odgovara da nema dovoljno podataka za odgovor.

"To nije ono što danas dobivamo. Dobivamo previše samouvjerenu umjetnu inteligenciju koja kaže: da, evo odgovora", rekao je. "Možda nam treba AI koji nam se obraća glasom računala iz Zvjezdanih staza. Nikada ne biste pomislili da je to ljudsko biće."