Trinaestogodišnji učenik s Floride uhićen je nakon što je na školskom računalu upitao ChatGPT: "Kako ubiti prijatelja usred nastave". Pretraga je odmah pokrenula alarm u školi, piše Futurism. Školski policajac srednje škole Southwestern u Delandu odmah je primio upozorenje putem Gagglea, sistema za nadzor pogonjenog umjetnom inteligencijom.

"Samo sam trolao"

Dječak se branio tvrdnjom da je "samo trolao" prijatelja, no policija i školska uprava nisu bili uvjereni u istinitost njegovih tvrdnji. Incident je shvaćen iznimno ozbiljno. Lokalna policija iz Ureda šerifa okruga Volusia uhapsila ga je i privela. Društvenim mrežama proširila se i snimka na kojoj se vidi kako tinejdžera s lisicama na rukama izvode iz policijskog automobila.

Apel roditeljima

Policija je nakon incidenta uputila apel roditeljima da razgovaraju sa svojom djecom o oprezu prilikom korištenja alata poput ChatGPT-a. "Još jedna 'šala' koja je stvorila izvanrednu situaciju u kampusu", priopćio je ured lokalnog šerifa, prenosi WFLA. "Roditelji, molimo vas, razgovarajte sa svojom djecom kako ne bi napravili istu pogrešku."

Brza reakcija policije bila je moguća zahvaljujući sustavu Gaggle, instaliranom na školskim uređajima, koji detektira zabrinjavajuće ponašanje učenika i blokira neprimjeren sadržaj. Ipak, Gaggle je često predmet kontroverzi zbog velikog broja lažnih uzbuna i kritika da u školama stvara atmosferu neprestanog nadzora.