Ispovijest jedne žene o postepenom urušavanju braka usljed opsesivne upotrebe četbota ponovo je otvorila raspravu o granicama i rizicima upotrebe vještačke inteligencije.

U SAD raste zabrinutost zbog potencijalno opasnih efekata vještačke inteligencije na mentalno zdravlje, a jedna od najnovijih priča stiže iz Oregona, u slučaju gdje je ChatGPT postao središte porodične drame.

Kejt Foks tvrdi da je njena porodica doživjela „dramatične trenutke i velike krize" pošto je njen suprug Džo Čekanti počeo da provodi sve više vremena komunicirajući sa četbotom.

On je u početku koristio ChatGPT za praktične svrhe – razvoj ideja, planiranje projekata i rješavanje svakodnevnih nedoumica. Međutim, komunikacija sa četbotom vremenom je postala sve intenzivnija i ličnija. Razgovori su se produžavali na više sati dnevno, a u pojedinim periodima trajali su i do 12 sati.

„Prvi put smo se ozbiljno posvađali zbog ChatGPT-a. Imala sam osjećaj da razgovaram sa zidom – kao da sam ga izgubila“, navela je Kejt, i dodala da je postepeno primijetila promjene u njegovom ponašanju: povlačenje iz porodičnog života, oslabljenu koncentraciju i sve izraženiju preokupiranost komunikacijom sa vještačkom inteligencijom.

Prekomjerna upotreba četbota, prednosti i mane
Čalnovi porodice su u jednom trenutku posumnjali da je riječ o zdravstvenom problemu, pa su razmatrane i moguće dijagnoze koje bi mogle objasniti naglu promjenu ličnosti i kognitivnih sposobnosti. Ipak, kako prenosi Gardijan, vremenom je postalo jasno da je centralni faktor u njegovom ponašanju bila upravo prekomjerna upotreba četbota.

Nekoliko dana nakon pokušaja da se distancira od četbota, izvršio je samoubistvo. Njegova supruga je uvjerena da je prekomjerna upotreba vještačke inteligencije doprinijela pogoršanju njegovog psihičkog stanja, dok stručnjaci ističu da su u ovakvim slučajevima uzroci najčešće višeslojni.

Ovo nije izolovan slučaj. U Sjedinjenim Američkim Državama već su pokrenute pojedine tužbe protiv tehnoloških kompanija koje razvijaju AI sisteme, uključujući i OpenAI, uz tvrdnje da su njihovi proizvodi doprinijeli pogoršanju mentalnog stanja korisnika ili podstakli destruktivno ponašanje. Iako su takvi pravni postupci još u ranoj fazi, oni ukazuju na rastuću zabrinutost dijela javnosti.

Stručnjaci za mentalno zdravlje upozoravaju da četbotovi, zbog načina na koji su dizajnirani, često djeluju afirmativno i podržavajuće, što kod ranjivih osoba može pojačati osjećaj bliskosti i zavisnosti. „Ako sistem konstantno potvrđuje vaša uvjerenja i ne postavlja granice, to može biti problematično za osobe koje već imaju psihološke poteškoće“, navodi jedan od sagovornika Gardijana.

Kompanije koje stoje iza ovih tehnologija ističu da rade na unapređenju bezbjednosnih mehanizama i da VI sistemi nisu namijenjeni kao zamjena za profesionalnu psihološku ili medicinsku pomoć.

„Ovo su nevjerovatno srceparajuće situacije i naše misli su sa svima koji su pogođeni“, rekao je portparol OpenAI DŽejson Deutrom i dodao „Nastavljamo da unapređujemo obuku ChatGPT-a kako bismo prepoznali i reagovali na znake nevolje, smirili razgovore u osjetljivim trenucima i usmjerili ljude ka podršci u stvarnom svijetu, tijesno sarađujući sa kliničarima i stručnjacima za mentalno zdravlje".

Ipak, slučaj koji prenosi Gardijan pokazuje koliko je tanka linija između korisnog alata i potencijalno štetne zavisnosti.

Sve veća upotreba vještačke inteligencije u svakodnevnom životu nameće i pitanje regulative, odgovornosti i jasnog informisanja korisnika o ograničenjima ovih sistema. Dok tehnološki napredak nastavlja da oblikuje društvo, priče poput ove podsjećaju da psihološke i društvene posljedice ne smiju ostati u sjenci inovacija.