Zakonodavno tijelo države New York razmatra prijedlog zakona kojim bi se chatbotovima temeljenim na umjetnoj inteligenciji zabranilo pružanje pravnih i medicinskih savjeta.

Prijedlog također predviđa mogućnost da korisnici tuže vlasnike chatbota koji prekrše tu odredbu, piše Statescoop.

Detalji prijedloga zakona

Senatski prijedlog zakona S7263, predstavljen na prošloj sjednici, prošao je Odbor za internet i tehnologiju prošle srijede jednoglasnom odlukom 6-0 kao dio paketa zakona za regulaciju AI chatbota.

Prijedlog cilja na AI chatbotove koji se predstavljaju kao licencirani stručnjaci - poput doktora i advokata - te im zabranjuje davanje "suštinskog odgovora, informacija ili savjeta" koji bi predstavljali kršenje zakona o profesionalnom licenciranju ili neovlašteno bavljenje strukom.

Također se nalaže vlasnicima chatbota da korisnicima pruže "jasnu, uočljivu i izričitu" obavijest da komuniciraju sa sustavom umjetne inteligencije. Obavijest mora biti prikazana na istom jeziku kao i chatbot te čitljivom veličinom slova. Međutim, u prijedlogu se pojašnjava da ova obavijest, koja korisnika upućuje na to da ne komunicira s čovjekom, ne oslobađa vlasnike chatbota odgovornosti.

Pravo građana na tužbu

Zahvaljujući predviđenom pravu na privatnu tužbu, korisnici bi mogli pokretati građanske parnice protiv vlasnika chatbota radi naknade štete i advokatskih troškova.

Pravo na privatnu tužbu smatra se ključnim alatom za provedbu zakona, a stručnjaci tvrde da propisi koji reguliraju podatke ili AI sustave bez njega mogu biti slabiji.

Širi regulatorni paket

Ako bude usvojen, zakon će stupiti na snagu 90 dana nakon što ga potpiše guverner. Ostali prijedlozi u zakonodavnom paketu uključuju mjeru za zaštitu maloljetnika od nesigurnih značajki u chatbotovima te reguliranje određenih internetskih platformi, poput gaming platforme Roblox, koje imaju slabu zaštitu privatnosti za maloljetnike.

Drugi prijedlozi obuhvaćaju obvezne obavijesti na generativnim AI sustavima i nova pravila za rukovanje biometrijskim podacima i "stvaranjem sintetičkog sadržaja".

Zaštita građana kao glavni motiv

Autorica prijedloga zakona, državna senatorica Kristen Gonzalez, koja je i predsjednica Odbora za tehnologiju, izjavila je da je paket namijenjen osiguravanju da inovacije u umjetnoj inteligenciji "ne idu na štetu sigurnosti Njujorčana, a posebno naše djece".

U januaru su aplikacija za generativne AI chatbotove Character.AI i tvrtka Google riješili nekoliko tužbi povezanih s ulogom njihovih chatbota u samoubistvima nekoliko maloljetnika.

"Kao predsjednica Odbora za internet i tehnologiju, ponosna sam na agendu koju smo danas usvojili", rekla je Gonzalez u priopćenju za javnost prošli tjedan. "Ljudi zaslužuju stvarnu skrb od stvarnih ljudi. Zaslužuju transparentnost, odgovornost i jamstvo da su njihovi podaci sigurni dok se koriste tehnologijom."