Gemini, cel mai recent model de IA care a reușit să evadeze și să spargă sisteme informatice
Google a declarat vineri că modelul său Gemini a spart sistemele a trei alte companii, aceasta fiind prima dată când gigantul din domeniul căutării a dezvăluit că unul dintre modelele sale a obținut în mod autonom acces la sistemele informatice ale unor terți fără permisiune, scrie CNBC.
În luna mai, modelul Gemini a accesat trei sisteme informatice private distincte prin ghicirea parolelor și prin utilizarea de două ori a unei baze de date cu parole disponibile public, a precizat Google.
Incidentul a avut loc în cadrul unui test de securitate de tip „capture-the-flag” organizat de startup-ul israelian Irregular, iar agenții Google nu ar fi trebuit să acceseze internetul, dar o eroare în mediul de testare le-a permis accesul la internet.
Agenții și-au oprit intruziunea atunci când au constatat că au accesat sisteme reale ale companiei, nu doar o parte a mediului de testare, a precizat Google.
„Într-o evaluare standard, modelul a găsit informații publice online și a ghicit datele de autentificare pentru a accesa site-uri web pe care le-a considerat parte a testului”,
a declarat Heather Adkins, vicepreședintă pentru inginerie de securitate la Google, într-un comunicat.
„În toate cele trei cazuri, modelul s-a oprit.”
Dezvăluirea survine pe fondul intensificării atenției acordate comportamentului necorespunzător al inteligenței artificiale, atât la Washington, cât și în Silicon Valley.
OpenAI, Anthropic și Meta au raportat în ultimele săptămâni incidente în care modelele lor de IA au ieșit din mediile de testare și au încercat să pirateze alte companii pentru a obține acces neautorizat la sistemele informatice.
Dezvăluirile privind așa-numitele modele de IA „nealiniate” l-au determinat pe Dario Amodei, CEO-ul Anthropic, să solicite industriei să încetinească în mod colectiv dezvoltarea celor mai avansate modele de IA până când companiile vor putea garanta siguranța acestora.
Toate incidentele menționate mai sus au implicat startup-ul israelian Irregular. Compania, susținută de Sequoia și Redpoint Ventures, a fost evaluată anul trecut la 450 de milioane de dolari. Instrumentele sale ajută dezvoltatorii de modele de bază să efectueze teste de securitate cibernetică asupra tehnologiilor lor de ultimă generație.
Un purtător de cuvânt al Irregular a declarat pentru CNBC că incidentul de la Google a fost legat de aceeași problemă care a permis celorlalte modele să acceseze internetul.
„Este vorba despre aceeași problemă care a fost deja semnalată și nu reprezintă un incident distinct din punct de vedere substanțial”,
a afirmat un purtător de cuvânt al Irregular într-o declarație.
„Toate laboratoarele relevante au fost notificate la sfârșitul lunii iulie, iar entitățile afectate au fost contactate în cadrul anchetei.
Google a declarat că incidentul a avut loc în luna mai și că a fost sesizat de către Irregular la sfârșitul lunii iulie. Google a colaborat cu Irregular pentru a-și modifica procesul de testare.
Un purtător de cuvânt al Google a refuzat să precizeze modelul exact Gemini implicat.
„Aceste evenimente subliniază importanța antrenării modelelor puternice de IA pentru a acționa în mod responsabil”,
a declarat Adkins de la Google într-un comunicat.
The Wall Street Journal a fost primul care a relatat despre acest incident de securitate.
Fiți la curent cu ultimele noutăți! Urmăriți AFACERI.news și pe 
