Sam Altman avertizează: OpenAI și Anthropic au viziuni diferite asupra reglementării AI

Directorul general al OpenAI, Sam Altman, spune că între compania sa și Anthropic rămâne o diferență fundamentală de viziune asupra reglementării inteligenței artificiale, deși pozițiile celor două firme s-au apropiat în ultimele luni.

Într-un interviu exclusiv pentru Politico, citat de TVR Info, Altman a susținut că beneficiile tehnologiei justifică acceptarea unor riscuri și că IA trebuie să rămână larg accesibilă publicului, respingând ideea ca un singur laborator să controleze tehnologia. Declarațiile vin după ce OpenAI a început să sprijine reguli mai stricte, pe fondul unor incidente de hacking și al comportamentului scăpat de sub control al unor modele proprii.

CEO-ul OpenAI, Sam Altman, a declarat că între compania sa și rivala Anthropic persistă o diferență fundamentală de viziune asupra reglementării inteligenței artificiale. El susține, într-un interviu exclusiv acordat Politico, că beneficiile tehnologiei justifică acceptarea unor riscuri și că IA ar trebui să rămână larg accesibilă publicului.

„Cred că există diferențe majore”, crede Altman.

Întrebat concret unde se despart căile sale de cele ale Anthropic și ale CEO-ului acesteia, Dario Amodei, Altman a răspuns: „credem că lumea ar trebui să accepte că se vor întâmpla și lucruri rele, în schimbul beneficiilor acestei tehnologii și al libertății de decizie a oamenilor.”

Anthropic a fost mult timp considerată cel mai fervent susținător al reglementării IA din industrie, o poziție aflată, până de curând, în contradicție cu abordarea mai permisivă preferată de OpenAI. În ultimele luni însă, diferențele de politici dintre cele două companii de top din domeniu s-au atenuat, OpenAI sprijinind reguli mai dure pe fondul unor incidente de hacking de mare răsunet și al comportamentului scăpat de sub control al unora dintre modelele sale.

Altman a fost de acord luna trecută cu apelul lui Amodei de a încetini dezvoltarea celor mai avansate modele de IA.

Compania sa a urmat exemplul Anthropic și a susținut noi legi la nivel de stat care impun cerințe de siguranță mai stricte decât cele pe care producătorul ChatGPT le sprijinise anterior – o schimbare subtilă față de strategia sa anterioară la nivel de state.

Iar lobbyiștii OpenAI au susținut recent o propunere bipartizană din Camera Reprezentanților, care ar obliga marile companii de IA să includă evaluatori externi de siguranță.

În ciuda acestei apropieri, Altman a încercat să distingă poziția de reglementare a firmei sale de cea a Anthropic, făcând referire la o critică privind „captura reglementară” pe care consilieri din tehnologie apropiați președintelui Donald Trump o aduc Anthropic.

„Nu sunt de acord, dar înțeleg perspectiva celor care spun: «Tehnologia asta va deveni atât de puternică și atât de periculoasă, încât un singur laborator din San Francisco ar trebui să o dețină și să se asigure că nu se întâmplă nimic rău, și cumva să găsească modul de a împărți beneficiile»”,

a spus Altman.

El a numit asta „un compromis complet inacceptabil”, care contravine „abordării de reglementare cu mână ușoară” susținute de OpenAI.

„Nu aș accepta un schimb de genul: «Ne asigurăm că nu există atacuri informatice majore, că tehnologia nu este folosită abuziv, că nu există nicio fraudă, niciunul dintre celelalte lucruri rele care se vor întâmpla»”, a spus Altman. „Pentru că cred că oamenii vor face lucruri bune de zeci și sute de ori mai multe decât lucruri rele.”

Șeful OpenAI a adăugat ulterior că nu acceptă „riscurile cu adevărat catastrofale”, inclusiv posibilitatea unei „pierderi grave a controlului asupra IA”.

Solicitat să răspundă, un purtător de cuvânt al Anthropic a declarat că „propunerile de reglementare ale companiei se aplică doar modelelor de frontieră”. Compania a făcut trimitere și la un schimb de replici pe rețelele sociale din august, pe care Amodei l-a avut cu un manager de investiții, în care răspundea criticilor privind captura reglementară și impactul asupra companiilor mai mici.

„Anthropic și-a formulat întotdeauna propunerile de politici cu mare atenție”,

a spus Amodei atunci.

„Ne străduim foarte mult să facem propuneri care îi dezavantajează (încetinesc) pe jucătorii de frontieră din IA, avantajându-i în același timp pe concurenții mai mici.”

Săptămâna trecută, președintele american Donald Trump i-a reunit la Casa Albă pe unii dintre cei mai importanți lideri ai industriei tehnologice, într-o întâlnire dedicată dezvoltării inteligenței artificiale și poziției Statelor Unite în competiția tehnologică cu China.

În timp ce unele dintre companiile prezente la Casa Albă au cerut public măsuri suplimentare de siguranță, Trump a respins ideea unei reglementări care ar putea, în opinia sa, încetini dezvoltarea industriei americane.

Președintele susține că Statele Unite trebuie să rămână în fruntea cursei tehnologice cu China și a insistat asupra ideii de autoreglementare a industriei. În timpul întâlnirii, Trump a prezentat dezvoltarea inteligenței artificiale drept una dintre cele mai importante oportunități tehnologice din istorie.

La discuții au participat reprezentanți ai unor companii importante din domeniu, inclusiv Anthropic, OpenAI, Nvidia și Palantir. CEO-ul Anthropic, Dario Amodei, care a avertizat în repetate rânduri asupra riscurilor AI, s-a întâlnit cu Trump și înaintea reuniunii de la Casa Albă.