Companiile tehnologice au multe procese privind siguranța copiilor în timp ce introduc AI în școli

Marile companii tehnologice, printre care Meta, Google, Snap şi OpenAI, se confruntă cu un număr tot mai mare de procese privind efectele produselor lor asupra sănătăţii mintale a copiilor şi adolescenţilor, în timp ce încearcă să introducă inteligenţa artificială în sistemul educaţional. Litigiile sporesc presiunile pentru reglementări mai stricte şi ar putea genera riscuri financiare importante pentru industrie, relatează CNBC.

Snap a încheiat săptămâna aceasta o înţelegere confidenţială cu doi reclamanţi care susţineau că platforma Snapchat le-a provocat suferinţe psihologice severe în adolescenţă. Meta, TikTok şi YouTube ajunseseră anterior la acorduri în acelaşi proces. Înţelegerea a evitat audierea directorului general al Snap, Evan Spiegel, într-o instanţă din Los Angeles.

În august, Meta a acceptat să plătească aproape 17 miliarde de dolari pentru soluţionarea unui litigiu cu procurori generali din mai multe state americane privind efectele reţelelor sociale asupra sănătăţii mintale a minorilor. Compania şi rivalii săi se confruntă în continuare cu alte procese, inclusiv cu acţiuni iniţiate de districte şcolare.

Google a fost dată în judecată săptămâna aceasta de părinţii unui adolescent care ar fi trecut printr-o criză psihologică severă, cu risc suicidar, după interacţiuni cu chatbotul Gemini, integrat în Google Classroom. Reclamanţii acuză compania că a introdus prea rapid tehnologia AI în dispozitivele Chromebook utilizate de elevi, în pofida riscurilor cunoscute.

Google a transmis că analizează acuzaţiile şi că a colaborat cu specialişti în medicină şi educaţie pentru dezvoltarea unor mecanisme de protecţie. Compania a fost criticată şi după ce a anunţat că şcolile care nu permit utilizarea instrumentelor sale AI de către elevi vor pierde accesul la funcţia de căutare Google.

”Este extrem de important ca siguranţa copiilor să fie luată în considerare încă din etapa de proiectare a acestor produse, nu ulterior, după apariţia problemelor”,

a declarat Kate Blocker, psiholog specializat în dezvoltare şi reprezentantă a organizaţiei Children and Screens.

Procesele vizează tot mai frecvent modul în care sunt concepute platformele digitale, inclusiv funcţiile destinate creşterii timpului petrecut online. Această strategie juridică urmăreşte să depăşească protecţia oferită companiilor de Secţiunea 230 a legislaţiei americane, care limitează răspunderea pentru conţinutul publicat de utilizatori.

Şi OpenAI se confruntă cu acţiuni în justiţie iniţiate de procurori generali şi reclamanţi particulari, care susţin că anumite caracteristici ale ChatGPT pot reprezenta riscuri pentru minori. Rivala Anthropic, care pregăteşte listarea la bursă, a inclus riscurile juridice privind siguranţa utilizatorilor în prospectul său, deşi interzice accesul copiilor la chatbotul Claude.

Michele Neitz, profesoară de drept la Universitatea din San Francisco, consideră că amploarea litigiilor arată că firmele tehnologice anticipează riscuri juridice mult mai mari decât în urmă cu un deceniu.

Specialiştii avertizează că natura personalizată a conversaţiilor cu sistemele AI face dificilă anticiparea răspunsurilor oferite copiilor. Creşterea numărului de procese ar putea determina atât autorităţile, cât şi companiile să introducă reguli şi mecanisme de protecţie mai stricte încă din faza de dezvoltare a produselor.