Napredak vještačke inteligencije značajno je doprinio razvoju čovječanstva. Međutim, kao i svaka novina, i ona je podlegla zloupotrebi. Nezapamćen slučaj sajber nasilja dogodio se u osnovnoj školi "Radoje Domanović" u Vranju, gdje je od fotografije s takmičenja na kojoj su dvije učenice s nastavnicom napravljena nova na kojoj su sve tri – nage! Neko od učenika je, kako se saznaje, tu fotografiju iskoristio i potpuno izmijenio pomoću vještačke inteligencije

Kao i sve tehnološke novine koje su donijele veliki napredak, vještačka inteligencija je podlegla zloupotrebi, a o tome nam je govorio i sagovornik za Kurir televiziju.

"Ovaj tip vještačke inteligencije je nastao da bi nekome pomogao. To znači da bismo ubrzali procese kreiranja sadržaja u najvećem broju slučajeva. Međutim, kako to biva sa svim ostalim stvarima, dolazi do zloupotrebe, konkretno u slučaju deepfake-a. Postoji više načina kako se može zloupotrijebiti. Imitacija različitih glasova, pa tako recimo maloljetnici koriste priliku da imitiraju glasove roditelja ili nastavnika. Onda u pornografske svrhe mijenjaju lica u različitim videoklipovima, nakon čega nastaju zaista problematični videosnimci. I naravno, tu su druge vrste zamjena kako tijela, tako i lica u različite svrhe. Gotovo je to do mašte samog onoga ko kreira sadržaj."

Softveri poput deepfake-a korišteni su kao osnova za plasiranje uvredljivog sadržaja i osvetničke pornografije, pri čemu su na meti bila i maloljetna lica.

"Proces bi izgledao tako da vi pronađete video u okviru kojeg želite da se pojavi osoba za koju ste spremni da kreirate takav video i onda ubacite taj video u taj softver. Kada ubacite video, on vas pita da li želite da promijenite lice, vi onda dodate fotografiju osobe čije lice želite da se nađe u tom videu. Kada dodate fotografiju, to je već drugi korak. Nakon toga on sam obradi fotografiju, ubaci je u taj video. Ukoliko želite da izimitirate glas, ubacite glas koji želite. Uopće ne mora da izgovara isto to, nego bilo šta može da izgovara taj glas. On će uhvatiti tonalitet tog glasa i ono što se izgovara u videu biće kao da je ta osoba pričala. To su recimo tri, četiri koraka. Vi možete u nekoliko minuta da kreirate taj video, da ga preuzmete na svoj mobilni telefon i dalje dijelite putem društvenih mreža", kaže sagovornik Kurira.

Pristupačnost i lakoća korištenja ovih softvera predstavljaju novi izazov za društvo i njen pravni sistem, koji nastoji da zaštiti najpogođenije građane.