Încă un gigant AI avertizează că tehnologia pe care o dezvoltă ar putea distruge societatea umană

Compania americană Anthropic, dezvoltatoarea chatbotului Claude, a cerut marilor laboratoare de inteligenţă artificială să ia în considerare o pauză coordonată şi verificabilă în dezvoltarea modelelor avansate de AI, avertizând că tehnologia se apropie de un punct în care sistemele ar putea începe să se îmbunătăţească singure mai repede decât poate societatea să gestioneze riscurile, transmite agenția Reuters, citată de News.ro.

Într-o analiză publicată joi, compania susţine că abilitatea sistemelor AI de a îndeplini sarcini în mod autonom se dublează aproximativ la fiecare patru luni şi că industria se îndreaptă către ceea ce specialiştii numesc ”autoîmbunătăţire recursivă”, momentul în care inteligenţa artificială poate dezvolta versiuni mai performante ale propriilor modele fără intervenţie umană.

”Dacă sistemele devin capabile să îşi construiască singure succesorii, modul în care le securizăm, le monitorizăm şi le influenţăm comportamentul devine mult mai important”,

au scris cofondatorul Anthropic, Jack Clark, şi Marina Favaro, coordonatoarea Anthropic Institute.

Compania consideră că o încetinire temporară a dezvoltării ar oferi societăţii timp pentru a înţelege şi gestiona implicaţiile unei astfel de transformări tehnologice.

Anthropic subliniază însă că acest scenariu nu este inevitabil şi că nu s-a ajuns încă în acel punct. Totuşi, compania avertizează că progresele ar putea apărea mai repede decât sunt pregătite instituţiile să reacţioneze.

Temerile privind pierderea controlului asupra sistemelor avansate de inteligenţă artificială au crescut în ultimii ani, pe măsură ce modelele devin tot mai capabile. La începutul acestui an, modelul Mythos dezvoltat de Anthropic a atras atenţia prin capacitatea sa de a identifica vulnerabilităţi complexe în programe informatice existente.

În paralel, reglementarea sectorului rămâne limitată, în special în Statele Unite, unde sunt dezvoltate cele mai avansate modele AI. Săptămâna aceasta, administraţia Trump a emis un ordin executiv prin care solicită companiilor să transmită voluntar guvernului modelele lor cele mai avansate pentru testări de securitate cibernetică înainte de lansarea publică.

Nu este prima dată când apar apeluri pentru încetinirea dezvoltării AI. În 2023, o iniţiativă susţinută inclusiv de Elon Musk a solicitat o pauză de şase luni în dezvoltarea modelelor avansate, însă propunerea nu a avut efecte concrete.

Anthropic recunoaşte că o pauză unilaterală a unei singure companii nu ar rezolva problema şi ar schimba doar liderul cursei tehnologice. Din acest motiv, compania consideră că orice încetinire ar trebui convenită de mai multe laboratoare importante şi însoţită de reguli clare privind condiţiile de aplicare, ridicare şi supraveghere a unei astfel de măsuri.

În lunile următoare, Anthropic intenţionează să organizeze discuţii cu cercetători, autorităţi, organizaţii civice şi companii concurente pentru a analiza riscurile asociate dezvoltării accelerate a inteligenţei artificiale.

Paradoxal, apelul la prudenţă vine într-un moment în care Anthropic continuă să lanseze modele tot mai puternice. Compania a fost evaluată recent la 965 de miliarde de dolari şi a depus confidenţial documentele pentru o ofertă publică iniţială în Statele Unite, intrând astfel în competiţie directă cu OpenAI pentru atragerea de capital şi consolidarea poziţiei pe piaţa inteligenţei artificiale.