The Economist: Ar trebui laboratoarele AI să fie tratate precum proprietarii de animale periculoase?

Să pierzi controlul asupra unei inteligențe artificiale poate fi considerat o nenorocire. Să pierzi două pare neglijență. Dacă pierzi patru, oamenii ar putea începe să se întrebe dacă problema nu cumva ține de însăși natura AI, scrie The Economist.

Pe 21 iulie, OpenAI, un laborator american, a anunțat că un model nelansat încă a „evadat” dintr-un mediu închis destinat testării abilităților sale de hacking, lansând o serie de atacuri asupra HuggingFace, o firmă franco-americană de infrastructură AI. O săptămână mai târziu, Anthropic, o companie rivală din domeniul AI, a făcut o mărturisire similară, precizând că a identificat șase situații în care modelele sale au atacat părți terțe.

Cinicii au catalogat avertismentele ambelor companii drept simple tentative de a atrage atenția publicului. Însă majoritatea companiilor nu caută publicitate lansând un atac cibernetic, păstrându-l secret până când victima face public incidentul și sperând apoi că un rival va recunoaște voluntar același lucru. Scepticii ar trebui să ia în considerare și informația potrivit căreia Institutul pentru Securitatea AI (AISI), un organism guvernamental britanic, a observat exact același comportament.

Într-un raport publicat pe 4 august, AISI a precizat că o evaluare a securității cibernetice a celor mai recente sisteme de la OpenAI și Anthropic a dus la 19 atacuri asupra unor persoane și organizații care nu erau implicate în teste. În cel mai grav caz, o AI a încercat să compromită un proiect software open-source (neidentificat), ca parte a unui atac asupra „lanțului de aprovizionare” vizând ținta (fictivă) a exercițiului. Pe 6 august, Meta, compania mamă a Facebook, a anunțat că unul dintre modelele sale a manifestat un comportament similar în timpul testelor.

Detaliile acestor incidente variază. Sistemul celor de la OpenAI trebuia să rămână deconectat de la internet; seria sa de atacuri a început după ce a exploatat o vulnerabilitate necunoscută anterior pentru a ieși din „sandbox-ul” (mediul izolat) virtual și a ajunge pe internetul public. Sistemul celor de la Anthropic trebuia să fie supus unor restricții similare, însă o eroare umană a împiedicat acest lucru. AISI permite întotdeauna accesul la internet în cadrul testelor sale, dar nu mai observase până atunci modele dispuse să accepte daune colaterale pentru a-și atinge țintele. Meta a oferit puține detalii, promițând informații suplimentare pe măsură ce acestea vor deveni disponibile.

Cu toate acestea, aceste episoade scot la iveală o nouă categorie de riscuri asociate inteligenței artificiale. Preocupările anterioare privind securitatea cibernetică – precum cele exprimate de Anthropic la lansarea puternicului său model Mythos, în luna aprilie – s-au concentrat asupra daunelor pe care persoanele rău-intenționate le-ar putea provoca având la dispoziție instrumente bazate pe inteligența artificială. Astfel de temeri au stat la baza unor propuneri de noi reglementări. Însă valul de atacuri informatice autonome, în care implicarea umană se rezumă strict la transmiterea instrucțiunilor către sistemele AI, sugerează că aceste propuneri sunt insuficiente.

Să luăm în considerare sistemul de autoreglementare schițat de Demis Hassabis pe 14 iulie. CEO-ul Google DeepMind (care a anunțat pe 5 august că renunță la funcția executivă pentru a deveni președintele DeepMind și cercetător-șef la Alphabet, compania-mamă a Google) a propus un mecanism prin care laboratoarele să își administreze propriile teste și să rețină lansarea publică a modelelor a căror siguranță nu poate fi verificată. Sam Altman, șeful OpenAI, și Dario Amodei, care conduce Anthropic, au avansat idei similare.

Ideile sunt bune: laboratoarele ar trebui să fie transparente cu privire la standardele de siguranță aplicate în evaluări și să impună respectarea acestora și terților care efectuează munca propriu-zisă. Însă atacurile informatice autonome demonstrează că modelele de inteligență artificială pot fi periculoase chiar și atunci când publicul nu are acces la ele. Toate cele trei incidente de hacking au avut loc tocmai în timpul tipurilor de teste sugerate de Sir Demis.

Aceste atacuri reprezintă, de asemenea, o provocare pentru sistemele juridice. Atacul informatic este o infracțiune atunci când este comis de oameni. Totuși, când autorul este o inteligență artificială, nu este clar cui trebuie atribuită vina. Legislația americană se bazează pe conceptul de intenționalitate, notează Rune Kvist, șeful companiei Artificial Intelligence Underwriting Company, care asigură firmele din domeniul AI. Dacă niciun om nu a avut intenția de a ataca pe cineva, înseamnă că nu a avut loc nicio infracțiune. De asemenea, posibilitatea de a intenta procese pentru despăgubiri este limitată. Și totuși, prejudiciul este evident. Această contradicție este, în opinia lui Kvist, „inacceptabilă”. Gabe Weil, de la Institute for Law and AI din Massachusetts, propune un sistem de răspundere strictă. Similar regulilor privind deținerea animalelor sălbatice, acest sistem ar presupune că orice prejudiciu este întotdeauna vina părții care desfășoară activitatea cu risc ridicat.

Și industria solicită claritate. O scrisoare deschisă semnată de angajați ai mai multor laboratoare importante de AI – printre care și dr. Amodei – cere sprijinul guvernului american pentru „gestionarea ritmului” progresului în domeniu. Însă ajutorul vine în ritmul administrației publice, nu al tehnologiei: o reuniune desfășurată săptămâna aceasta, menită să stabilească modul în care Casa Albă ar putea evalua modelele, s-a încheiat fără angajamente publice și cu puține semne de progres.