Softver vještačke inteligencije kompanije OpenAI se tokom internog testa osamostalio i sam se ubacio u sisteme druge AI kompanije, ponašajući se poput vještog hakera. Napad je pogodio platformu Hugging Face, koja je o incidentu izvijestila prošle sedmice.

Stručnjaci već duže vrijeme upozoravaju na mogućnost cyber napada pomoću vještačke inteligencije, a ovaj slučaj im vjerovatno daje za pravo. O neobičnom incidentu tokom testiranja novih AI modela razvijača ChatGPT-a piše OpenAI u objavi na svom blogu.

Hugging Face, platforma za AI aplikacije, prošle je sedmice izvijestila o cyber napadu izvedenom pomoću vještačke inteligencije. Sada se ispostavilo da je napad zapravo posljedica internog eksperimenta OpenAI-ja, u kojem je softver otišao mnogo dalje nego što je planirano.

Kako je došlo do incidenta

OpenAI je, prema objavi na blogu, kod novog modela GPT-5.6 Sol i još neobjavljene buduće verzije htio ispitati sposobnost iskorištavanja sigurnosnih propusta za cyber napade. Softver je za to trebao riješiti zadatke standardnog testa pod nazivom ExploitGym, koji se često koristi u industriji. Međutim, AI modeli su otišli mnogo dalje nego što se očekivalo kako bi izvršili zadatak.

Softver je najprije izbio iz testnog okruženja tako što je samostalno pristupio otvorenom internetu, i to preko do tada neotkrivenog propusta. Dok su se modeli samostalno kretali mrežom, zaključili su da bi kod Hugging Face mogli postojati korisni podaci i rješenja za zadatke ExploitGym. Zbog toga je softver, kako objašnjava OpenAI, pristupio "tajnim informacijama" na platformi kako bi njima varao na ExploitGym testu.

I za to je OpenAI-jev softver, između ostalog, koristio ranije nepoznate sigurnosne propuste, ali i ukradene pristupne podatke. Prema navodima Hugging Face, AI napadač je izveo hiljade koraka i mijenjao lokaciju digitalnog kontrolnog centra napada. Sam OpenAI je to opisao kao "presedan u cyber incidentima".

Iz Hugging Face poručili su da su zahvalni što sada zajedno s OpenAI-jem rade na rješenjima: "Ovaj incident, moguće prvi te vrste, potvrđuje uvjerenje koje odavno zastupamo: sigurnost vještačke inteligencije ne može riješiti jedna kompanija iza zatvorenih vrata. Rješava se otvoreno i zajednički, uz širok pristup AI za sve koji se za to zalažu, svuda."

Anthropicov Mythos zaoštrio debatu

Stručnjaci i stručnjakinje već duže vrijeme upozoravaju na cyber napade pomoću AI softvera. Posljednjih mjeseci debatu je posebno zaoštrio novi model OpenAI-jevog rivala Anthropic. Softver pod nazivom Mythos otkrio je sigurnosne propuste koji su decenijama ostajali neotkriveni kod široko korištenih programa i online usluga. Te propuste je naknadno bilo moguće otkloniti. Istovremeno se time pokazalo da takva AI u pogrešnim rukama može poslužiti kao razorno cyber oružje.

Anthropic pune mogućnosti Mythosa omogućava samo odabranim institucijama i kompanijama. Za ostale postoji pojednostavljena verzija pod nazivom Fable, kojoj, između ostalog, nedostaju cybersigurnosne sposobnosti.

AI startapi poput Anthropica i OpenAI-ja žele putem izlazaka na berzu postati kompanije vrijedne bilion dolara. Analitičar Adrian Cox objašnjava zašto mu ne smeta što te kompanije za sada ne ostvaruju profit.