Avertisment de la Anthropic: boții AI ar putea da buzna în casele inteligente. Care ar fi consecințele?

Anthropic a anunțat luni că modelele de inteligență artificială (AI) de dimensiuni reduse ar putea fi la doar câteva luni distanță de a se autoreplica pe dispozitivele casnice conectate la internet, generând riscul ca rețelele de tip botnet bazate pe AI să se răspândească rapid, să reziste tentativelor de eliminare și chiar să pătrundă în centrele de date pentru a-și accelera expansiunea, transmite agenția Reuters, citată de Agerpres.

Luna trecută, CEO-ul Anthropic, Dario Amodei, a avansat pentru prima dată ideea că, în cursul anului viitor sau chiar mai devreme, AI ar putea prelua controlul asupra ”întregului internet” prin intermediul unei ”rețele botnet persistente” – un avertisment care a atras atenția și a stârnit îngrijorare în comunitatea de securitate cibernetică.

Rețelele botnet – rețele vaste de dispozitive controlate de operatori malițioși – există încă de la începuturile internetului și continuă să fie prezente și astăzi.

De regulă, o astfel de rețea include dispozitive IoT (Internet of Things) cu securitate precară – precum dispozitivele Android TV, electrocasnicele inteligente și camerele de supraveghere – și este utilizată de hackeri pentru a trimite mesaje spam, a răspândi programe malware sau a sabota companii vizate prin inundarea acestora cu trafic fictiv.

Articolul publicat luni pe blogul Anthropic pare să reprezinte prima încercare de a explica modul în care s-ar putea produce un astfel de scenariu.

Compania a precizat că experimentele sale au demonstrat că un agent AI malițios ar putea cumula puterea de calcul a unor dispozitive ieftine conectate la internet pentru a rula alte modele AI. De asemenea, s-a menționat că modelele au reușit să se replice în cadrul unei rețele de testare simplificate.

”O astfel de entitate capabilă de replicare ar fi dificil de oprit, întrucât nu există un punct central care să poată fi dezactivat”,

a afirmat compania.

Raportul amplifică îngrijorările generale privind riscurile de securitate asociate sistemelor AI tot mai performante, inclusiv potențialul acestora de a automatiza atacurile cibernetice, de a funcționa cu o supraveghere umană limitată și de a eluda mecanismele de protecție.

Progresele înregistrate în dezvoltarea modelelor au generat o serie de avertismente – adesea alarmante – din partea liderilor din industrie și a angajaților companiilor de AI, cu privire la riscurile grave, chiar existențiale, pe care le-ar putea implica o dezvoltare necontrolată a inteligenței artificiale.

Anthropic a precizat că experimentele sale au arătat că modelele cu 30 de miliarde de parametri sau mai puțini pot deja să execute multe dintre sarcinile individuale necesare pentru autoreplicare, deși întâmpină dificultăți în finalizarea cu succes a întregului proces.

În cadrul unor teste simplificate, în care au fost eliminate anumite măsuri de securitate, Anthropic a constatat că modelul GLM-5.2 și modelele mai performante erau capabile de replicare integrală (end-to-end).

Anthropic a precizat că, dacă modelele mai mici continuă să evolueze în același ritm ca până acum, acestea ar putea atinge capacitatea necesară pentru replicarea autonomă până la sfârșitul anului 2026.

Un vierme informatic bazat pe inteligență artificială, care rulează pe hardware cu putere de calcul redusă, ar putea avea nevoie de câteva zile pentru a finaliza anumite etape ale procesului de replicare, a menționat Anthropic.

Compania a adăugat că o astfel de rețea ar putea continua să se extindă – într-un ritm mai lent decât în cazul anumitor programe malware convenționale – dacă dispozitivele compromise ar infecta un număr suficient de mare de alte echipamente.

Un vierme AI (AI worm) este un tip nou și periculos de malware care folosește inteligența artificială pentru a se răspândi singur prin rețelele de calculatoare, fără să aibă nevoie de intervenție umană. Spre deosebire de viermii informatici clasici, care folosesc cod fix și instrucțiuni stricte, un vierme AI folosește capacitatea de gândire a modelelor mari de limbaj (LLM) pentru a analiza țintele, a genera cod de atac personalizat pe loc și a păcăli sistemele de securitate.

De asemenea, Anthropic a avertizat că sistemele viitoare ar putea viza resurse de calcul mai puternice, inclusiv procesoare din centrele de date, deși experimentele sale nu au demonstrat replicarea autonomă prin intermediul centrelor de date comerciale.