În lume au apărut destul de multe jucării cu inteligenţa artificială încorporată, unele gândite în mod special să comunice natural cu copiii noştri. Deşi la prima vedere sună bine, mai ales că în spate ar trebui să fie un AI cu limbaj adaptat vârstei, se pare că lucrurile nu merg tot timpul cum ar trebui.
Grupul american PIRG a testat mai multe astfel de jucării, iar un ursuleţ de pluş drăgălaş s-a dovedit a fi unul foarte problematic.
Ursuleţul Kumma al producătorului chinez FoloToy foloseşţe ChatGPT-4o pentru a discuta cu cei mici. Din păcate filtrele acestuia nu funcţionează aproape deloc, astfel că în testele PIRG a răspuns în detaliu despre cum se aprinde un chibrit, a oferit fără perdea informaţii cu conţinut sexual şi multe altele. În plus, Kumma are în dotare un microfon ce este în permanenţă activ, acesta înregistrând vocile copiilor.
Americanii au numit acest pluş ChuckyGPT, iar la scurt timp de la publicarea informaţiilor, FoloToy a oprit de la comercializare jucăria. Nici cei de la OpenAI nu au stat degeaba, compania suspendând accesul jucăriei Kumma la API-ul său.
FoloToy a declarat că a demarat un audit intern pentru a descoperi cum şi de ce s-a ajuns la această situaţie.
Sursa: gizmochina.com
