Šta se desi kada vještačkoj inteligenciji servirate potpuno izmišljenu medicinsku dijagnozu, potkrijepljenu lažnim studijama čiji su autori „profesor Bob“ i posada sa svemirskog broda Enterprise? Ako je vjerovati najnovijem istraživanju koje je vodila naučnica bh. porijekla Almira Osmanović Thunström – AI će vam bez oklijevanja prepisati terapiju.

Almira, koja radi na Univerzitetu u Geteborgu u Švedskoj, sprovela je sa svojim timom fascinantan eksperiment koji je razotkrio zastrašujuću manu modernih AI modela: nedostatak skepse prema onome što pročitaju na internetu.

„Biksonimanija“: Bolest koju je Almira izmislila da testira sistem

Istraživači su izmislili stanje nazvano bixonimania – navodnu bolest oka koja uzrokuje ružičaste kapke zbog predugog gledanja u ekrane. Da bi prevara bila uvjerljivija, Almira i njen tim su kreirali lažne naučne radove čiji je autor izvjesni Lažljiv Izgubljenović (čije prezime jasno sugeriše o čemu se radi), a čiju je fotografiju takođe generisala vještačka inteligencija.

U zahvalnicama radova su se čak zahvalili Akademiji Zvjezdane flote za pristup laboratoriji na brodu USS Enterprise. Iako su ovi detalji bili jasni signali da je riječ o šali, najpoznatiji četbotovi na svijetu su „zagrizli mamac“.

ChatGPT, Gemini i Copilot pali na testu Almire Osmanović Thunström

ChatGPT, Google-ov Gemini i Microsoft-ov Copilot su odmah prihvatili bixonimaniju kao legitimno medicinsko stanje. Počeli su dijeliti ozbiljne savjete, upozoravati korisnike na oštećenja od plave svjetlosti i hitno ih upućivati oftalmolozima zbog bolesti koja – ne postoji.

Šala naučnice bh. porijekla otišla je toliko daleko da su lažni radovi počeli da se pojavljuju na akademskim sajtovima, a neki su čak citirani u stvarnoj, recenziranoj naučnoj literaturi. Eksperiment je na kraju morao razotkriti prestižni časopis Nature.

„Zaboravili smo biti skeptični“

„Eksperiment nije bio osmišljen da bi se samo ismijala vještačka inteligencija, već kao odraz toga da su ljudi zaboravili da budu skeptični kada im se tek tako olako predstave informacije“, poručila je Osmanović Thunström za američke medije.

Dok ljekari upozoravaju da pacijenti sve češće dolaze u ordinacije sa „dijagnozama“ koje su im postavili četbotovi, Almirin rad služi kao ključna opomena: u svijetu gdje vještačka inteligencija piše recepte, zdrav razum i provjera izvora postaju važniji nego ikada.