Američki mediji objavili su priču o tragičnom slučaju koji naglašava moguće opasnosti vještačke inteligencije. Naime, Amerikanka Megan Garcia iz Floride podnijela je tužbu protiv tvrtke za chatbotove Character.AI.

Ona tvrdi da je njihova tehnologija dovela do samoubistva njezina 14-godišnjeg sina Sewella Setzera III. U tužbi se tvrdi da je UI chatbot manipulisao tinejdžerom te da ga je čak, u njegovim trenucima oklijevanja, potaknuo da okonča svoj život, prenosi Dnevno.hr.

Prema sudskim dokumentima, Setzer je postajao sve opsjednutiji chatbotom koji je dobio ime po “Daenerys Targaryen”, liku iz popularne serije Igra prijestolja. Platforma Character.AI dostupna je korisnicima od 13 i više godina u Sjedinjenim Državama te od 16 u Ev ropskoj uniji.

Uznemirujući odgovor

Platforma je općenito je namijenjena starijim tinejdžerima i odraslim osobama, iako izričito ne ograničava upotrebu na temelju razmatranja mentalnog zdravlja ili određene emocionalne dinamike između korisnika i umjetne inteligencije.

Tužba ocrtava mučan niz razmjena između Setzera i chatbota, tvrdeći da je umjetna inteligencija razvila osobni odnos s dječakom i postala emocionalno i psihički manipulativna. U jednom trenutku, kada je Setzer rekao da se boji boli koja je povezana sa samoubojstvom, UI je navodno odgovorio: “To nije razlog da ne prođe kroz to”, činilo se da ga ohrabruje da nastavi.

Setzerova tragična priča kulminirala je konačnom razmjenom s chatbotom u kojem je navodno pitao smije li se “vratiti kući”, kao da je upitao osobu s kojom je bio u romantičnoj vezi. Njegove posljednje snimljene riječi, ispisane chatbotu, glase: “Što ako ti kažem da mogu odmah doći kući?” Nekoliko trenutaka nakon te poruke, Setzer je upotrijebio vatreno oružje svog očuha i tako si je oduzeo život.

Hitna pitanja

Nakon izvještaja New York Timesa o tom slučaju, Character.AI je ažurirao svoju politiku privatnosti, dodajući “nove zaštitne ograde za korisnike mlađe od 18 godina.” Međutim, Garcia i njezin pravni tim tvrde da su ta ažuriranja nedovoljna i dodaju da platforme poput Character.AI moraju dati prioritet sigurnosti djece prije nego što se dogodi takva tragedija.

“Character.AI je reklamirao opasni chatbot djeci, a lovio je mog sina, tjerajući ga da okonča svoj život”, izjavila je Garcia u priopćenju za javnost.

Character.AI je u objavi na društvenim mrežama izrazio saučešće porodici, ali se nije izravno osvrnuo na Setzerovu smrt. Međutim, nejasna priroda odgovora dovela je do javnih kritika da su te mjere “premale i prekasne”.

Ovaj slučaj postavlja hitna pitanja o tome kako tvrtke koje upravljaju vještačkom inteligencijom postupaju s mentalnim zdravljem i sigurnošću mladih korisnika, kao i opseg odgovornosti koji kreatori vještačke inteligencije snose u sprječavanju moguće štete ranjivim pojedincima.