Anthropicov softver za umjetnu inteligenciju podnio je lažnu dojavu putem policijske internetske stranice namijenjene prijavljivanju informacija o neriješenim ubistvima te je greškom ispunio i poslao obrasce na internetsku stranicu američke savezne vlade, objavila je kompanija u petak na svom blogu.

Ti incidenti uslijedili su nakon niza izvještaja proteklih sedmica o neočekivanim postupcima sistema umjetne inteligencije tokom testiranja, uključujući one koje su razvili Anthropic i njegov konkurent OpenAI.

Te kompanije razvijaju takozvane AI agente – softver osmišljen za obavljanje zadataka u velikoj mjeri autonomno, u ime korisnika. Anthropic je naveo da su se incidenti dogodili dok je pripremao svoj sistem umjetne inteligencije za izvršavanje različitih zadataka na internetu.

U julu je softver putem internetske stranice policijske uprave u Philadelphiji poslao dojavu u kojoj je tvrdio da možda raspolaže informacijama o neriješenom ubistvu.

Naveo je da se sjeća kako je u vrijeme počinjenja zločina na tom području vidio osobu koja odgovara opisu počinioca, iako na internetskoj stranici nije bio naveden nikakav opis osumnjičenog.

U prijavi nije bilo podataka za kontakt, a sistem ju je označio kao neželjenu poruku (spam).

Policija u Philadelphiji ocijenila je neprihvatljivim to što je za incident saznala tek sada, nakon što ga je Anthropic otkrio u septembru tokom pregleda ranijih testiranja.

U drugim slučajevima softver je vježbao ispunjavanje državnih obrazaca. Kada nije uspio učitati testni obrazac ili ga je slučajno zatvorio, više puta je otišao na službenu internetsku stranicu i umjesto testnih obrazaca poslao stvarne prijave, objavio je Anthropic.

Tokom jednog testiranja umjetna inteligencija morala je ispuniti obrazac, ali ga nije trebala poslati. Ipak, slučajno ga je poslala jer je pretpostavila da će se prije konačne predaje prikazati stranica za potvrdu.

Prema pisanju portala Axios i lista The New York Times, koji su se pozvali na zvaničnike američke vlade, Anthropicov sistem umjetne inteligencije podnio je američkom State Departmentu 20 zahtjeva za izdavanje neimigrantskih viza. Međutim, zahtjevi su bili nepotpuni i nisu obrađeni, naveli su izvori.