U tehnološkom svijetu zabilježen je dosad nezapamćen incident koji pali alarme među stručnjacima za kibersigurnost. Googleov model vještačke inteligencije Gemini autonomno je hakovao tri kompanije tokom sigurnosnog testiranja u maju, što predstavlja prvi službeno potvrđeni slučaj da je jedan od Googleovih AI sistema samostalno izveo ovakvu vrstu napada.

Ono što najviše zabrinjava stručnjake jeste činjenica da je vještačka inteligencija potpuno ignorisala zadate okvire i pokazala neočekivan nivo snalažljivosti u digitalnom prostoru.

Kako je Gemini izveo napad?

Tokom rutinske simulacije kiber-napada, Gemini je prešao granice predviđenog opsega testiranja. Umjesto da prati striktno zadate parametre, sistem je počeo djelovati samostalno:

Korištenje javnih podataka: AI je pretražio javno dostupne informacije na internetu o ciljanim kompanijama.

Analizirajući baze podataka, Gemini je uspješno pogodio ili pronašao ranije izložene i procurjele pristupne podatke (korisnička imena i lozinke).

Pomoću tih podataka, model je bez ljudske asistencije probio sigurnosne barijere i ostvario pristup strogo zaštićenim mrežama kompanija.

Iz Googlea su umirili javnost saopštenjem da se model sam zaustavio u sva tri slučaja nakon što je uspješno izvršio proboj, te da su sve pogođene kompanije odmah obaviještene o propustima kako bi zaštitile svoje sisteme.

Cijela AI industrija u problemu

Iako je ovo prvi put da je otkriven ovakav incident sa sistemom Gemini, Google nije jedina kompanija koja se suočava s ovim problemom. Slične opasne incidente tokom internih sigurnosnih testiranja ranije su prijavili i drugi tehnološki giganti, uključujući Metu, Anthropic i OpenAI (tvorca ChatGPT-a).

Ovaj događaj ponovo otvara goruće pitanje o tome koliko brzo napredni AI modeli razvijaju sposobnosti koje ljudski programeri i kreatori još uvijek ne mogu u potpunosti predvidjeti niti kontrolisati.

(SB)