Scenariul ”Skynet”, aproape să se întâmple: SUA, la un pas să declanșeze un război cu China, din cauza AI

Un raport de intelligence distribuit în cadrul armatei americane în această primăvară, în plin război cu Iranul, a declanşat imediat alarma: o navă chineză aflată în Orientul Mijlociu transporta componente ale unui program de arme nucleare. Armata a pregătit interceptarea navei însă, în urma unei analize mai atente, concluzia a fost că raportul, realizat cu ajutorul inteligenţei artificiale, identificase greşit încărcătura navei, relatează CNN, citat de News.ro.

Armata americană a trecut la acţiune, pregătind planuri pentru interceptarea navei, potrivit a patru surse familiarizate cu episodul.

Potrivit a două dintre surse, militari americani înarmaţi se pregăteau să urce la bordul navei. Avioane militare se aflau deja în aer, au declarat una dintre aceste surse şi o altă persoană familiarizată cu incidentul.

Abia cu puţin timp înainte de operaţiunea planificată, oficialii au analizat mai atent raportul întocmit de un analist al comandamentului pentru operaţiuni speciale şi au descoperit că acesta fusese realizat cu ajutorul inteligenţei artificiale (AI) şi că un chatbot folosit de analist identificase în mod eronat materialul transportat de navă. CNN nu a putut afla ce reprezenta în realitate încărcătura identificată greşit.

Raportul era ”complet fals”, potrivit uneia dintre surse. Dar ”aproape că a declanşat un război”, a afirmat aceasta.

Orice operaţiune americană împotriva unei nave chineze ar fi putut risca să escaladeze într-un conflict armat între cele două ţări.

În întreaga armată americană şi în comunitatea de informaţii, oficialii încearcă să integreze AI în aproape toate aspectele activităţii lor, de la analizarea volumelor uriaşe de informaţii brute colectate de SUA şi selectarea ţintelor pentru atacuri până la aplicaţii mai obişnuite, precum gestionarea bugetelor, logisticii şi lanţurilor de aprovizionare.

Episodul evidenţiază însă riscurile majore ale utilizării acestei tehnologii puternice, noi şi încă relativ puţin înţelese pentru selectarea ţintelor în timpul unui război, comentează CNN.

Analiştii se tem de mult timp că AI ar putea conduce la o eroare de calcul catastrofală dacă statele se bazează pe date de slabă calitate sau compromise – genul de eroare care ar putea determina Statele Unite să deschidă focul asupra unei nave chineze pe baza unor informaţii inexacte.

În acest caz, analistul a consultat un chatbot în legătură cu informaţii privind documentele referitoare la încărcătura navei, provenite de la Comandamentul pentru Operaţiuni Speciale al SUA din Pacific, cu sediul în Hawaii. Nu este clar dacă chatbotul era unul disponibil pe piaţă sau un produs al guvernului american.

”Instrumentele interne sunt, în mare parte, doar copii ale celor comerciale, cosmetizate”,

a declarat un fost oficial american de rang înalt familiarizat cu sistemele AI utilizate de analiştii militari şi de informaţii.

Chatbotul a combinat informaţii din surse deschise cu informaţii secrete provenite din interceptarea semnalelor şi aflate în bazele de date guvernamentale, ajungând la concluzia decisivă, dar eronată, privind materialul transportat de navă.

Analistul a folosit apoi din nou AI pentru a transforma constatările într-un raport standard de informaţii – tipul de document în care oficialii militari au încredere – şi l-a distribuit.

Comandamentul pentru Operaţiuni Speciale al SUA din Pacific şi Pentagonul nu au răspuns unei solicitări de comentarii.