Directorul general al Anthropic cere încetinirea dezvoltării AI-ului

În data sâmbătă, Dario Amodei, director general al Anthropic, a adresat un apel industriei AI, cerând să

încetinească ritmul

și a introdus un plan subdivizat în trei etape pentru a atinge acest obiectiv.

Citește șiCentralele nucleare din Germania pot deveni centre de date

Într-un mesaj postat pe platformele de socializare, Dario Amodei a trimis un link către un articol intitulat We Must Pace the Frontier (Trebuie să controlăm ritmul avansării). În acesta, el detaliază cum Anthropic intenționează să ofere evaluatorilor independenți acces permanent la sistemele companiei la nivel de angajat, pentru ca aceștia să poată verifica respectarea normelor de siguranță, să raporteze incidentele și să evalueze alinierea modelelor în faza de antrenament.

„Trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor de inteligență artificială. Progresul va părea în continuare rapid, iar noi trebuie să folosim cu înțelepciune timpul pe care îl câștigăm. Dacă nu este ținută sub control, aceasta ar putea depăși capacitatea noastră de a înțelege și controla aceste sisteme și, prin urmare, trebuie abordată cu mare atenție, dacă este cazul”, a spus Amodei.

Conform The Guardian, comunicatul a fost emis subiectul că, în această săptămână, un fost cercetător al Anthropic a alertat că inteligența artificială ar putea accelera dispariția umanității până în 2030.

Într-o serie de postări, cercetătorul Jacob Coxon a spus că a renunțat la funcție pentru că Anthropic și fostul său loc de muncă, OpenAI, nu au reacționat corespunzător la provocarea adusă de inteligența artificială.

„Niciuna dintre companii nu acționează în mod responsabil. Ele se îndreaptă cu viteză spre o superinteligență capabilă de auto-perfecționare și își joacă viețile noastre. Cei care dezvoltă IA cred cu tărie că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului… Nicio altă activitate umană nu prezintă un astfel de nivel de pericol”, a scris Coxon.

Musk și Altman confirmă punctul de vedere al directorului Anthropic.

Sam Altman, directorul general al OpenAI, a transmis perspectiva directorului Anthropic.

„Sunt de acord cu Dario că trebuie să avansăm cu prudență la această frontieră. Angajamentul de a avea evaluatori independenți cu acces similar celui al angajaților este o idee excelentă, iar noi vom face la fel. Vom avea mai multe de împărtășit în curând”, a postat pe rețelele sociale Sam Altman, directorul general al OpenAI.

Mai mulți experți din domeniul tehnologiei au confirmat această perspectivă, printre ei Elon Musk, care a lăsat un comentariu simplu:

„Dario are dreptate”

. Cercetătorul OpenAI Aidan McLaughlin a descris postarea ca fiind „excelentă” și a declarat că este „practic cu fiecare cuvânt” de acord.

În urma unui even