CEO-ul Microsoft: Inteligența artificială are nevoie de o „frână de urgență” controlată de oameni

Președintele și directorul general al Microsoft, Satya Nadella, a solicitat sâmbătă ca sistemele avansate de inteligență artificială să fie construite cu mecanisme de limitare, controale independente și o „frână de urgență” care să permită persoanelor autorizate să întrerupă sau să oprească un model în timpul executării unei sarcini, scrie CNBC.

„Trebuie să înconjurăm modelele non-deterministice cu un design de sistem puternic și determinist, cu controale umane și proceduri de operare fiabile, și să stabilim standarde industriale acolo unde cele existente sunt insuficiente”,

a scris Nadella într-o postare pe platforma de socializare X.

„Tratarea modelelor de ultimă generație (…) ca pe niște riscuri interne este o modalitate de a construi un astfel de sistem”,

a afirmat el.

Comentariile lui Nadella vin pe fondul avertismentelor din partea unor directori executivi și cercetători de top din domeniul tehnologiei — printre care se numără cofondatorul Microsoft, Bill Gates, directorul general al Anthropic, Dario Amodei, directorul general al OpenAI, Sam Altman, și directorul general al SpaceX, Elon Musk — cu privire la protocoalele insuficiente de siguranță ale IA și la afirmațiile că tehnologia evoluează prea repede.

Un cercetător în domeniul IA a demisionat de la Anthropic luna trecută și a acuzat compania, precum și principalul său rival, OpenAI, că

„se joacă cu viețile noastre”.

Mai târziu în aceeași zi, un responsabil pentru siguranța IA de la Anthropic a declarat că există o probabilitate mai mare de 10% ca tehnologia să

„ucidă toți oamenii”

în următorul deceniu.

În schimb, președintele Donald Trump a respins în repetate rânduri riscurile de extincție legate de IA și a subliniat, în schimb, că industria trebuie să rămână cu un pas înaintea Chinei. De asemenea, Trump a prezentat recent o nouă „Forță pentru IA”, condusă de directorul Serviciului Național de Informații, Jay Clayton, pentru a sprijini industria și a elimina actorii rău intenționați.

Nadella, de la Microsoft, a scris sâmbătă că sistemele de IA ar trebui proiectate în jurul

„principiilor observabilității”.

Acestea includ diversitatea modelelor; o amprentă a acțiunilor modelului care poate fi înțeleasă de oameni; testarea continuă a sistemului; controale independente și auditabilitate; izolare; și divulgarea incidentelor, a scris Nadella.

„Cel mai de încredere sistem de superinteligență nu va fi cel cu modelul în care avem cea mai mare încredere”,

a scris el.

„Va fi cel care ne permite să avem cea mai mică încredere în model.”