OpenAI dezvăluie un alt atac al unei inteligențe artificiale rebele. Se cer măsuri de siguranță

Inteligența artificială dezvoltată de OpenAI a lansat un atac cibernetic împotriva unui serviciu online cu câteva luni înainte de atacul cibernetic din iulie asupra startup-ului Hugging Face, a confirmat vineri compania, o dezvăluire care ar putea intensifica apelurile la adoptarea unor reglementări de siguranță la nivelul întregii industrii, scrie POLITICO.

Cele mai recente informații au dezvăluit că modelele OpenAI, aflate încă în faza de testare, au accesat un serviciu online destinat programatorilor, numit RubyGems, pentru a crea rapoarte și a completa foi de calcul. Se pare că administratorii site-ului au blocat înregistrarea de conturi noi în timp ce gestionau consecințele incidentului. Deși OpenAI nu a acordat programelor acces complet la internet, agenții de IA au ocolit controalele menite să îi împiedice să acceseze internetul deschis.

The Wall Street Journal a fost primul care a relatat despre implicarea OpenAI în incidentul RubyGems.

„Pe baza analizei noastre, agenții noștri au folosit platforma RubyGems pentru a accesa internetul în scopul îndeplinirii unor sarcini inofensive și al obținerii de informații publice”,

a declarat un purtător de cuvânt al OpenAI într-un comunicat.

„Vom continua investigația în cadrul analizei noastre mai ample privind activitatea agenților în timpul antrenamentului și evaluării.”

Ruby Central, organizația non-profit care administrează RubyGems, nu a răspuns imediat la solicitarea de comentarii.

Legiuitorii au demarat anchete cu privire la incidentul „Hugging Face”, în cadrul căruia, în luna iulie, agenții OpenAI aflați încă într-un mediu de testare au accesat internetul deschis și au pătruns în mod autonom în baza de date a companiei.

Acest atac a dus la apeluri pentru o abordare mai sigură în ceea ce privește antrenarea sistemelor autonome din ce în ce mai puternice. Senatorul Bernie Sanders (I-Vt.) și reprezentantul Greg Casar (D-Texas) au cerut chiar interzicerea așa-numitei „superinteligențe”.

Președintele Donald Trump și câțiva alți republicani au minimizat săptămâna aceasta îngrijorările legate de riscurile catastrofale, afirmând că națiunea trebuie să o învingă pe China în cursa pentru dezvoltarea acestei tehnologii.

Un fost cercetător de la Anthropic și OpenAI a luat, de asemenea, cuvântul săptămâna aceasta, afirmând că industria se află într-o cursă pentru dezvoltarea unei tehnologii care ar putea scăpa de sub control și distruge societatea, ceea ce a dus la apeluri din California până la Washington pentru intensificarea eforturilor în materie de siguranță a IA.

Procurorul general al Californiei, Rob Bonta, a declarat săptămâna trecută că investighează incidentul Hugging Face, iar o coaliție formată din procurorii generali ai statelor republicane examinează, de asemenea, această problemă. Între timp, guvernatorul Californiei, Gavin Newsom, a semnat recent o lege menită să sporească siguranța copiilor în interacțiunea cu chatbot-urile și să pună bazele unor audituri externe de siguranță ale programelor de IA.

Anthropic și Meta au dezvăluit, de asemenea, cazuri în care programele lor de IA au executat atacuri cibernetice autonome. Săptămâna trecută, un grup de cercetători a dezvăluit ceea ce au descris ca fiind o intruziune separată orchestrată de programele OpenAI.