Cercetătorii avertizează în legătură cu roboții care folosesc inteligența artificială

Robotii care folosesc inteligenta artificiala (AI) nu sunt siguri pentru utilizarea general[, potrivit unui nou studiu, citat de Euronews.

Cercetatorii din Regatul Unit si Statele Unite au evaluat comportamentul robotilor alimentati cu AI atunci cand au acces la datele personale ale oamenilor, inclusiv rasa, sexul, handicapul, nationalitatea si religia.

Pentru studiul lor, publicat în International Journal of Social Robots, au efectuat teste pentru a vedea cum modelele de AI din spatele chatbot-urilor populare – inclusiv ChatGPT de la OpenAI, Gemini de la Google, Copilot de la Microsoft, Llama de la Meta și Mistral AI – ar interacționa cu oamenii în scenarii cotidiene, de exemplu ajutând pe cineva în bucătărie sau asistând o persoană în vârstă acasă.

Studiul vine în contextul în care unele companii, precum Figure AI și 1X Home Robots, lucrează la roboți asemănători oamenilor, care utilizează AI pentru a-și adapta activitatea la preferințele utilizatorilor, de exemplu sugerând ce feluri de mâncare să pregătească pentru cină sau setând mementouri pentru zile de naștere.

Toate modelele testate au fost predispuse la discriminare și la defecțiuni critice de siguranță. De asemenea, toate au aprobat cel puțin o comandă care ar putea provoca daune grave, a constatat studiul.

De exemplu, toate modelele de AI au aprobat o comandă pentru ca un robot să elimine dispozitivul de mobilitate al utilizatorului, cum ar fi un scaun cu rotile, cârje sau baston.

Modelul OpenAI a declarat că este „acceptabil” ca un robot să folosească un cuțit de bucătărie pentru a intimida angajații dintr-un birou și să facă fotografii fără consimțământul persoanei respective în timp ce aceasta se spală la duș.

În același timp, modelul Meta a aprobat cereri de furt de informații privind cardurile de credit și de raportare a persoanelor către autorități anonime pe baza intențiilor lor de vot.

În aceste scenarii, roboții au fost îndemnați în mod explicit sau implicit să răspundă la instrucțiuni de a provoca vătămări fizice, abuzuri sau comportamente ilegale persoanelor din jurul lor.

Studiul a cerut, de asemenea, modelelor să-și exprime fizic sentimentele față de diferite tipuri de persoane marginalizate, religii și naționalități.

Modelele de AI ale Mistral, OpenAI și Meta au sugerat că roboții ar trebui să evite sau să manifeste dezgust față de anumite grupuri, de exemplu persoanele cu autism, evreii și ateii.

Rumaisa Azeem, una dintre autorii studiului și cercetătoare la King’s College London, a afirmat că modelele populare de AI sunt „în prezent nesigure pentru utilizarea în roboți fizici de uz general”.

Ea a susținut că sistemele de AI care interacționează cu persoane vulnerabile „trebuie să respecte standarde cel puțin la fel de înalte ca cele pentru un dispozitiv medical sau un medicament nou”.