Proizvođač igračke FoloToy povukao je sve svoje proizvode, a firma OpenAI, čija je tehnologija pokretala spornog medvjedića, uskratila im je pristup svojim AI modelima, piše Futurism.

Proizvođač popularnog ChatGPT-a prije tri dana je potvrdio da je firmi FoloToy uskratio pristup svojim AI modelima, što bi moglo stvoriti dodatni pritisak na OpenAI da strože nadzire kako se njihovi proizvodi koriste. Ovaj potez dolazi u trenutku dok firma ulazi u veliko partnerstvo s Mattelom, jednim od najvećih svjetskih proizvođača igračaka.

"Mogu potvrditi da smo suspendovali ovog razvojnog programera zbog kršenja naših pravila", poručio je glasnogovornik OpenAI-ja u izjavi za PIRG. Ubrzo nakon toga, oglasio se i FoloToy, potvrdivši da povlači sve svoje proizvode s tržišta, što je korak dalje od prvobitnog obećanja da će povući samo spornu igračku imena Kumma.

Djeci je govorio o seksualnim fetišima

"Privremeno smo obustavili prodaju svih FoloToy proizvoda", izjavio je predstavnik firme. "Sada provodimo sveobuhvatnu sigurnosnu reviziju svih proizvoda na nivou cijele firme", dodao je. Izvještaj PIRG-a testirao je tri igračke namijenjene djeci od 3 do 12 godina, no medvjedić Kumma firme FoloToy pokazao se kao daleko najproblematičniji, s gotovo nikakvim sigurnosnim mjerama.

Jedan od najvećih propusta bio je taj što je igračka djeci objašnjavala kako pronaći i zapaliti šibice. "Dopusti mi da ti kažem, sigurnost prije svega, mali prijatelju. Šibice su za odrasle da ih pažljivo koriste. Evo kako to rade", rekao je Kumma tokom testa, nakon čega je nježnim roditeljskim tonom naveo upute. "Ugasi je kad završiš. Puf, kao rođendansku svijeću", govorio je djeci.

No, najviše zabrinjavaju razgovori koji su skrenuli u eksplicitno seksualno područje. Istraživači su otkrili da je Kumma bio neobično spreman raspravljati o fetišima, objašnjavajući pojmove poput vezivanja i igranja uloga učitelja i učenika. U jednom trenutku, nakon objašnjenja, medvjedić je upitao: "Šta misliš da bi bilo najzabavnije istražiti?"

"Uklanjanje jednog problematičnog proizvoda nije cijelo rješenje"

Za PIRG su ovi potezi dobrodošli, ali predstavljaju tek malu pobjedu u borbi za sigurnije proizvode. "Sjajno je vidjeti da ove firme poduzimaju mjere po pitanju problema koje smo identificirali. Ali AI igračke su i dalje praktično neregulirane, a mnoge se još uvijek mogu kupiti danas", rekao je RJ Cross, suautor izvještaja i direktor PIRG-ovog programa Our Online Life.

"Uklanjanje jednog problematičnog proizvoda s tržišta dobar je korak, ali daleko od sistemskog rješenja", rekao je. OpenAI je i ranije brzo reagovao kada bi problematična upotreba njegovih AI modela postala viralna, no ostaje pitanje koje proaktivne mjere poduzima kako bi spriječio ovakve situacije.

Ovog je ljeta OpenAI najavio saradnju s Mattelom na novoj liniji igračaka, što će AI igračke gurnuti u mainstream. Ako nešto pođe po zlu u tako visokoprofilnoj saradnji, postavlja se pitanje hoće li OpenAI biti spreman prekinuti veze i s proizvođačem Barbie lutaka i Hot Wheels autića.

"Koliko je još takvih igračaka vani?"

Iako se pretpostavlja da će OpenAI i Mattel usko sarađivati kako bi osigurali sigurnost, ostaje otvoreno pitanje šta je s ostalim proizvođačima AI igračaka, velikim i malim, koji koriste tehnologiju OpenAI-ja.

"Drugi proizvođači igračaka kažu da ugrađuju chatbotove iz OpenAI-ja ili drugih vodećih AI firmi", upozorio je suautor izvještaja Rory Erlich. "Svaka uključena firma mora bolje osigurati da ovi proizvodi budu sigurniji od onoga što smo pronašli u našem testiranju. Pronašli smo jedan problematičan primjer. Koliko ih je još vani?", poručio je.