Mustrările de conștiință îl bântuie pe șeful OpenAI. Nu poate dormi de gândul ChatGPT

CEO-ul OpenAI, Sam Altman, spune că nu poate dormi de grijă că a făcut ceva rău prin lansarea ChatGPT, din cauza pericolelor implicate de inteligenţa artificială, potrivit Business Insider.

Într-o conversaţie din timpul unei călătorii recente în India, Altman a spus că este îngrijorat că a făcut ”ceva cu adevărat rău” prin crearea ChatGPT, care a fost lansată în noiembrie şi a stârnit un val de interes pentru inteligenţa artificială.

”Ceea ce mă face să nu pot dorimi este ideea ipotetică că am făcut deja ceva foarte rău lansând ChatGPT”,

i-a spus Altman lui Satyan Gajwani, vicepreşedintele Times Internet, la un eveniment organizat miercuri de Economic Times.

Altman a spus că este îngrijorat că ”poate că a fost ceva greu şi complicat” pe care echipa sa a ratat când lucra la chatbot. Întrebat dacă AI ar trebui reglementată în mod similar cu energia atomică, Altman a spus că trebuie să existe un sistem mai bun pentru a audita procesul.

”Să avem un sistem astfel încât să putem audita oamenii care o fac, să-l licenţiem, să avem teste de siguranţă înainte de implementare”,

a spus el.

Riscurile sunt mari

Numeroşi lideri tehnologici şi oficiali guvernamentali şi-au exprimat îngrijorarea cu privire la ritmul de dezvoltare a platformelor AI.

În martie, un grup de lideri tehnologici, inclusiv Elon Musk şi cofondatorul Apple, Steve Wozniak, au scris o scrisoare deschisă cu Institutul Future of Life, pentru a avertiza că sistemele AI puternice ar trebui dezvoltate numai după ce se va avea încredere că efectele lor vor fi pozitive şi riscurile sunt gestionabile.

Scrisoarea solicita o pauză de şase luni în instruirea sistemelor AI mai puternice decât GPT-4.

Altman a spus că din scrisoare ”lipsesc nuanţe tehnice despre unde avem nevoie de pauză”.

La începutul acestei luni, Altman a făcut parte dintr-un grup de peste 350 de oameni de ştiinţă şi lideri tehnologici care au semnat o declaraţie prin care îşi exprimă îngrijorarea profundă cu privire la riscurile AI.

”Atenuarea riscului de dispariţie din cauza inteligenţei artificiale ar trebui să fie o prioritate globală alături de alte riscuri la scară societală, cum ar fi pandemiile şi războiul nuclear”,

se arată în declaraţie.