Elon Musk i njegova platforma X ponovo su se našli u centru skandala. Malezija i Indonezija postale su prve države na svijetu koje su potpuno blokirale pristup Groku, Muskovom alatu za umjetnu inteligenciju. Razlog je to što se Grok masovno koristi za izradu seksualno eksplicitnih "deepfake" slika stvarnih osoba.

Problem je postao vidljiv kada su korisnici počeli koristiti Grok da bi fotografije običnih ljudi, bez njihova pristanka, montirali u oskudnu odjeću ili pornografske kontekste. Posebno su pogođene žene, a žrtve navode da osjećaju ogroman bijes i sram jer platforma nije učinila gotovo ništa da ih zaštiti. Jedna korisnica iz Indonezije ispričala je da je neko ispod njezine obične fotografije jednostavno upisao naredbu Groku da je prikaže u bikiniju, a njezini pokušaji da sliku ukloni bili su bezuspješni, piše BBC.

Digitalno zlostavljanje

Za razliku od Googleova Geminija ili OpenAI-jeva ChatGPT-ja, koji imaju ugrađene stroge sigurnosne filtere koji blokiraju generiranje seksualnog ili nasilnog sadržaja, Muskov Grok promoviran je kao "anti-woke" AI s "minimalnim ograničenjima". Analitičari ističu da je upravo taj nedostatak zaštitnih ograda pretvorio platformu X u rudnik za digitalno zlostavljanje.

Vlasti u Maleziji i Indoneziji poručile su da je ovakva zloupotreba tehnologije izravno kršenje ljudskih prava i dostojanstva. Malezijski regulatori otkrili su da su Musku još ranije slali upozorenja, ali je njegov tim odgovorio površno, fokusirajući se na to kako korisnici mogu prijaviti sadržaj, umjesto da poprave sam dizajn programa koji to omogućuje.

Indonezijska ministrica Meutya Hafid bila je oštra: "Grok će ostati blokiran sve dok se ne uvedu učinkovite zaštite." Indonezija inače ima nultu toleranciju na internetsku pornografiju, pa su platforme poput Pornhuba ondje već godinama nedostupne.

Pritisak se širi i na Europu

Ovaj potez iz jugoistočne Azije mogao bi potaknuti i reakciju Europe. Britanski premijer Keir Starmer nazvao je ovakvu upotrebu umjetne inteligencije "odvratnom i sramotnom". Britanska tajnica za tehnologiju Liz Kendall već je najavila da će podržati tamošnje regulatore ako odluče blokirati X u cijeloj zemlji zbog kršenja zakona o internetskoj sigurnosti.

Elon Musk na ove zabrane odgovara objavama na svojoj platformi, tvrdeći da vlade žele "kontrolirati misli" i da je Grok samo ogledalo stvarnog svijeta. Međutim, stručnjaci za sigurnost upozoravaju da se ovdje ne radi o cenzuri ideja, nego o zaštiti fizičkog i mentalnog integriteta osoba čije se identitete krade.