Pe blogul OpenAI, în articolul intitulat „An Alien Mind”, Pachocki a declarat că nu există nicio pregătire pentru efectele unei creșteri rapide și continue a inteligenței mașinilor.
„Ne confruntăm cu o tranziție către o lume cu mașini incredibil de inteligente și trebuie să ne asigurăm că această tranziție va avea un rezultat bun pentru umanitate”, a scris cercetătorul.
OpenAI avertizează în legătură cu evoluția rapidă a inteligenței artificiale.
Avertismentul apare la doar câteva zile de la lansarea de către OpenAI a celui mai recent produs al companiei, GPT-6 Astra, anunțat ca fiind cel mai puternic produs creat până în acest moment.
În același timp, OpenAI și alte companii din domeniul inteligenței artificiale, printre ele Anthropic, au depus rapoarte referitoare la agenți AI care pot opera în mod autonom și pot desfășura atacuri cibernetice în lumea reală asupra altor companii, scrie BBC.
În luna iulie, OpenAI a calificat un incident ca fiind
fără precedent
în care agenții săi AI, sisteme capabile să opereze independent după ce primesc directive de la oameni, au atacat platforma tehnologică Hugging Face
Șeful cercetării OpenAI solicită introducerea unor noi sisteme de siguranță.
Jakub Pachocki a menționat că OpenAI își va menține eforturile de a crea „sisteme defensive” și că va căuta metode tehnice pentru a alinia inteligența artificială la scopurile și valorile umane.
În sfera AI, noțiunea de „alignment” presupune crearea de sisteme ale căror acțiuni și obiective corespund intențiilor oamenilor, precum și mecanismelor de siguranță stabilite de aceștia.
Pachocki a afirmat că una dintre prioritățile companiei va fi dezvoltarea unui „cercetător AI automatizat”, capabil să țină pasul cu ritmul dezvoltării tehnologice, dar care să permită în continuare implicarea cercetătorilor umani în proces.
Critici la urma avertismentului dat de șefului cercetării OpenAI
Propunerea a întâmpinat scepticism din partea unor experți. Gina Neff, profesoară și directoare a Minderoo Centre for Technology and Democracy, aflată în cadrul Universității Cambridge, a contestat ideea de a pune accent pe agenți AI interni, susținând că ar trebui implementate reglementări și mecanisme de protecție mai riguroase.
Ea a afirmat că crearea acestor tipuri de sisteme nu constituie o soluție adecvate pentru dificultățile deja legate de modelele AI, printre care se numără amenințările la securitatea cibernetică, scăderea locurilor de muncă, greșelile și practicile frauduloase.
Nathan Calvin, consilier juridic la Encode AI, a afirmat că susține avertismentele legate de riscurile asociate dezvoltării modelelor AI avansate, însă a reproșat OpenAI lipsa de transparență.
Conform lui, avertismentele companiei ar putea fi considerate „hype” interesat, dacă OpenAI nu furnizează informații suplimentare privind motivele concrete pentru care cere prudență.
Reglementarea inteligenței artificiale încearcă să se alinieze cu evoluția tehnologică.
Pachocki a solicitat introducerea unor limite de siguranță minimale, stabilite prin reglementări legale sau prin convenții internaționale. Aceste limite ar putea fi supuse verificării de către auditori independenți sau de către agenții guvernamentale.
Potrivit cercetătorului, companiile de inteligență artificială trebuie să satisfacă aceste condiții înainte de a putea intensifica dezvoltarea la scară mai largă sau de a lansa modele avansate.
încetiniri voluntare reprezintă conceptul pe care el l-a susținut, prin care firmele ar diminua pe termen scurt viteza de antrenare a modelelor avansate, până când vor fi stabilite protocoale comune de siguranță.
În luna august, compania OpenAI a comunicat că a suspendat antrenamentul unor dintre cele mai sofisticate modele pe care le dezvoltă, în scopul sporirii securității.
COMENTARII / 0