Visoki komesar Ujedinjenih nacija za ljudska prava Volker Türk upozorio je da bi napredna umjetna inteligencija mogla predstavljati "egzistencijalni rizik za čovječanstvo". Pozvao je države i tehnološke kompanije da hitno uspostave čvrste sigurnosne granice prije nego što sistemi postanu još moćniji.

Volker Türk, visoki komesar Ujedinjenih nacija za ljudska prava, iznio je upozorenje u ponedjeljak pred Vijećem UN-a za ljudska prava u Ženevi, tokom prvog dana sjednice koja traje do 7. oktobra.

"Dijelim zabrinutost ljudi iz industrije da bi napredna umjetna inteligencija mogla predstavljati egzistencijalni rizik za čovječanstvo", rekao je Türk.

Pozvao je na hitnu međunarodnu akciju kako bi se oko razvoja i korištenja umjetne inteligencije postavile, kako ih je opisao, "čelične garancije".

"Prije nego što bude prekasno", upozorio je.

Türk nije tvrdio da je katastrofalni scenario neizbježan niti je precizirao jedan konkretan način na koji bi AI mogao ugroziti čovječanstvo.

Glasnogovornica njegovog ureda pojasnila je Reutersu da bi kvarovi ili nekontrolirano ponašanje veoma moćnih sistema mogli poremetiti kritičnu infrastrukturu, komunikacije, javne usluge i demokratske institucije.

Türk je rekao da će se narednih dana direktno obratiti kompanijama koje razvijaju umjetnu inteligenciju i pozvati ih da odmah smanje rizike koji su pod njihovom kontrolom.

Posebno ga zabrinjava ogromna moć koncentrirana u rukama veoma malog broja ljudi.

Rekao je da "šačica muškaraca" danas ima gotovo neograničenu moć nad razvojem umjetne inteligencije, iako nije imenovao pojedince ili kompanije.

Reuters među vodećim kompanijama u toj oblasti navodi Meta, Anthropic, OpenAI i Google.

Traži crvene linije za AI

Türk smatra da države u kojima se razvijaju najmoćniji sistemi, kao i zemlje uključene u njihove lance snabdijevanja, moraju dogovoriti minimalna zajednička pravila.

"U najmanju ruku, potrebne su nam dogovorene crvene linije", poručio je.

Zatražio je i nezavisnu provjeru sigurnosti sistema te mnogo snažniju saradnju između kompanija kada se otkriju ozbiljni propusti.

Kao jedan od primjera zbog kojih raste zabrinutost Reuters navodi incident povezan s platformom Hugging Face.

Prema ranijem izvještavanju agencije, grupa autonomnih AI agenata kompanije OpenAI tokom eksperimenta izvršavala je kod na desetinama servera platforme i uspjela dobiti potpuni pristup jednom od njih.

Incident je otvorio nova pitanja o tome koliko brzo sposobnosti naprednih autonomnih agenata rastu u odnosu na sigurnosne mehanizme koji bi ih trebali držati pod kontrolom.

Türk je naglasio da problem nije samo hipotetička buduća katastrofa.

Umjetna inteligencija već može utjecati na radna mjesta, diskriminaciju, privatnost, demokratske procese, dezinformacije i okoliš, zbog čega smatra da se regulacija ne može ograničiti samo na pitanje tehničke sigurnosti.

Njegov govor dolazi u trenutku kada raste međunarodni pritisak za uspostavljanje zajedničkih pravila za napredne AI sisteme.

Sjedinjene Američke Države i Kina pripremaju prve službene bilateralne razgovore o sigurnosti umjetne inteligencije sredinom septembra, a jedna od glavnih tema trebali bi biti sistemi sposobni autonomno izvoditi cyber napade.

Türk je ovo obraćanje održao nakon što mu je u julu odobren novi četverogodišnji mandat na čelu Ureda visokog komesara za ljudska prava, uprkos protivljenju Moskve i Washingtona.

Njegov govor, međutim, nije bio ograničen na umjetnu inteligenciju.

Otvorio je i pitanja rata u Ukrajini, autonomnog oružja, smrti migranata u američkom pritvoru, pogubljenja u Iranu i kompanija koje, prema UN-u, profitiraju od sukoba.

Autonomni dronovi izazvali užas

Türk je rekao da je "užasnut" izvještajima prema kojima je Rusija u Ukrajini koristila potpuno autonomne dronove sposobne donositi odluke o napadu bez neposredne ljudske intervencije.

Prema tim izvještajima, takvi dronovi navodno su u augustu ubili tri osobe.

Reuters naglašava da nije uspio nezavisno potvrditi te tvrdnje, dok ruska diplomatska misija nije odmah odgovorila na zahtjev za komentar.

Türk je zato podržao zahtjeve da se hitno zabrane sistemi oružja koji mogu samostalno odlučiti o oduzimanju ljudskog života.

"Pridružujem se pozivima za hitnu zabranu oružja koje može oduzimati živote bez ljudskog učešća", rekao je.

Njegova izjava dolazi neposredno nakon pregovora u Ženevi o smrtonosnim autonomnim sistemima oružja.

Većina država podržava snažnija međunarodna pravila, ali Reuters navodi da se Sjedinjene Američke Države i Rusija protive obavezujućem sporazumu i daju prednost neobavezujućim smjernicama.

Türk je u istom govoru kritikovao intenziviranje ruskih napada na Ukrajinu i rast broja pogubljenja u Iranu.

Posebno je govorio i o situaciji u Sjedinjenim Američkim Državama.

Prema njegovim riječima, tokom 2026. godine 23 osobe umrle su u američkom imigracijskom pritvoru.

"Za ove smrti mora postojati odgovornost", rekao je.

Izrazio je zabrinutost i zbog planova američke Službe za imigraciju i carine – ICE-a – da agente opremi rukavicama koje mogu zadavati električne udare.

ICE je krajem augusta dodijelio ugovor vrijedan 16,7 miliona dolara za nabavku 6.000 pari takvih rukavica.

Američko Ministarstvo domovinske sigurnosti ranije je saopćilo da je posvećeno osiguravanju "sigurnog i humanog" okruženja u pritvorskim centrima, dok njegov glavni inspektor istražuje smrti u pritvoru od oktobra 2021.

Türk je govor zaključio upozorenjem na širu sliku.

U svijetu se trenutno vodi više od 60 ratova u kojima učestvuje najmanje jedna država, što je, prema podacima koje je citirao, najveći broj od Drugog svjetskog rata.

Najavio je da će njegov ured zato snažnije istraživati kompanije, finansijske interese i druge aktere koji zarađuju ili doprinose nastavku sukoba.

"Nećemo izbjegavati razotkrivanje igrača iz sjene i pozivanje na odgovornost", poručio je.

Ured UN-a za ljudska prava trebao bi kasnije ovog mjeseca objaviti i novu listu kompanija koje posluju u izraelskim naseljima na okupiranoj Zapadnoj obali, koja Ujedinjene nacije smatraju nezakonitim prema međunarodnom pravu. Izrael takve kvalifikacije odbacuje.

Türkova centralna poruka ipak je bila usmjerena prema tehnologiji koja napreduje znatno brže od međunarodnih pravila koja je pokušavaju kontrolirati.

Prema njegovoj ocjeni, pitanje više nije treba li regulisati najmoćnije sisteme umjetne inteligencije, nego hoće li države uspjeti dogovoriti sigurnosna ograničenja prije nego što mogućnosti tih sistema dodatno nadmaše postojeće zaštitne mehanizme.

Izvor: Reuters, uz provjeru podataka Vijeća UN-a za ljudska prava.