Președintele Microsoft: laptele și mașinile de spălat sunt mai reglementate decât domeniul AI

Brad Smith, președintele gigantului american Microsoft, pledează pentru stabilirea unor norme globale de siguranță în domeniul inteligenței artificiale (AI), inclusiv de o obligație legală de a informa o ”victimă” dacă sistemul său este compromis de un agent AI scăpat de sub control, precum și de stabilirea momentului în care evaluatori externi trebuie să își dea acordul pentru un produs AI înainte ca acesta să fie lansat pe piață, transmite BBC. Smith apreciază că, în prezent, laptele și mașinile de spălat sunt supuse unor reglementări mai stricte decât inteligența artificială.

Poziția președintelui Microsoft contrastează puternic cu cea a președintelui american Donald Trump, care a susținut că sectorul AI ar trebui să se autoreglementeze, pentru ca firmele americane să nu piardă teren în fața rivalilor chinezi.

”În acest moment, mașina dumneavoastră de spălat este supusă mai multor norme de siguranță decât AI. La fel, fiecare cutie de lapte pe care o vedeți în magazin este supusă unor reguli de siguranță și inspecții amănunțite.”

Solicitările privind legi și norme de control al AI s-au intensificat după ce experți din domeniu și-au exprimat opinia că această tehnologie reprezintă o amenințare la adresa umanității.

Liderii unor giganți americani din domeniul AI, precum Anthropic, OpenAI și Google DeepMind, au susținut ideea unei încetiniri a dezvoltării sectorului, însă Trump se opune din răsputeri unui astfel de demers.

Într-o intervenție în cadrul podcastului BBC ”Big Boss Interview”, Smith a descris AI-ul atât ca pe un ”instrument”, cât și ca pe o ”armă” care necesită o reglementare urgentă:

”Hai să începem chiar de azi!”,

a spus el.

El a mai afirmat că firmele au nevoie de ”frâne de urgență” – cunoscute în industrie sub numele de ”kill switches” (mecanisme de oprire imediată) – pentru a suspenda sau a încetini funcționarea AI-ului în cazul în care aceasta ar scăpa, într-un fel sau altul, de sub control.

De asemenea, a susținut necesitatea unei obligații legale pentru companii de a întocmi ”rapoarte de incident” și de a informa victimele dacă tehnologia începe să funcționeze necontrolat. Totodată, a sugerat ca noile tehnologii să fie verificate de evaluatori guvernamentali independenți.

”Știm cum să procedăm în cazul altor produse. Ar trebui să valorificăm acele cunoștințe și să ne gândim cum să le aplicăm în domeniul AI”,

a mai spus Smith.

Smith a menționat că Marea Britanie se află în cea mai bună poziție pentru a promova aceste norme globale privind AI, datorită Institutului său pentru Securitatea Inteligenței Artificiale (AI Security Institute), lansat în timpul mandatului fostului premier Rishi Sunak.

”În lumea tehnologiei, în sectorul tehnologic, majoritatea oamenilor pe care îi cunosc ar spune – dacă i-ai întreba care este țara lider în ceea ce privește această capacitate tehnică – că răspunsul e foarte simplu: Regatul Unit. Ei sunt cei mai buni.”

În ciuda pozițiilor contrare ale lui Donald Trump, Brad Smith nu crede că guvernul SUA s-ar opune reglementărilor privind AI inițiate de Regatul Unit, cel puțin nu în măsura în care sugerează declarațiile lui Trump; el lasă de înțeles că SUA ar accepta mai degrabă ca standardele să fie stabilite de Regatul Unit decât de UE.

”La Washington, oamenii nu privesc Regatul Unit și Londra așa cum privesc Bruxelles-ul – iar acesta este un avantaj”,

a spus el.

La sfârșitul lunii trecute, Trump i-a primit la Casa Albă pe liderii unor giganți tehnologici americani precum OpenAI, Anthropic, Nvidia, SpaceX, Meta și Google; cu această ocazie, reprezentanții acestor companii au semnat un document ”cu caracter obligatoriu din punct de vedere moral”.

Companiile au convenit să colaboreze cu ”auditori independenți” pentru a evalua dacă sistemele lor de inteligență artificială funcționează conform așteptărilor și pentru a se asigura că acestea ”nu compromit securitatea sistemelor tehnice și nici nu le accesează în moduri neintenționate”.

Smith a declarat că salută această inițiativă și că Microsoft este ”bucuroasă să o semneze”.

„Este un pas bun, un pas necesar… Însă nu cred că este suficient.”

El a adăugat că provocarea, în cazul oricărui ”sistem de autoreglementare”, constă în faptul că ”firmele serioase vor face ceea ce se așteaptă de la ele”.

”Cele care ar trebui să ne îngrijoreze sunt companiile care nu dau dovadă de același nivel de responsabilitate.”