Sam Altman se alătură șefului Anthropic și cere ritm mai lent pentru AI

În weekend, Amodei a solicitat ca sectorul AI să reducă viteza de dezvoltare, sugerând, printre altele, evaluatori independenți cu acces la infrastructura firmelor, standarde de...

În weekend, Amodei a solicitat ca sectorul AI să reducă viteza de dezvoltare, sugerând, printre altele, evaluatori independenți cu acces la infrastructura firmelor, standarde de siguranță uniforme și o colaborare internațională mai apropiată. Inițiativa a găsit susținere din partea lui Altman, Elon Musk și Demis Hassabis.

Altman a continuat și a detaliat ce înseamnă practic această modificare a ritmului. El afirmă că companiile din AI din Statele Unite, care dezvoltă sisteme din ce în ce mai robuste, trebuie să asigure publicului garantii privind comportamentul lor responsabil.

„Lumea merită să aibă încredere că firmele americane care dezvoltă inteligență artificială din ce în ce mai capabilă vor acționa responsabil, mai ales pe măsură ce ritmul progresului s-a accelerat”, a transmis Altman, luni, pe platforma X.

Citește șiDoi tineri din Oradea au luat argintul în SUA cu un proiect AI pentru cercetarea cancerului

Directorul OpenAI promovează crearea unui cadru federal ce să impună cerințe de siguranță uniforme pentru cele mai avansate sisteme AI.

„Nu credem că trebuie să așteptăm o excepție antitrust sau o legislație pentru a începe să oferim această încredere”, a spus Altman, pledând pentru reguli consistente de gestionare a riscurilor asociate AI.

Auditori independenți, o opțiune dintre soluții

Printre opțiunile pe care le consideră valoroase se găsesc auditorii independenți, care ar putea examina modul în care firmele administrează riscurile. Altman susține că dezvoltatorii de sisteme AI trebuie să stabilească standarde uniforme pentru supravegherea modelelor și pentru asigurarea securității acestora.

Altman a afirmat că trecerea de astăzi la dezvoltarea și evaluarea în condiții de siguranță va necesita instrumente noi.

„Schimbarea de astăzi către dezvoltarea și evaluarea în condiții de siguranță va necesita noi instrumente”

Conform declarației sale, OpenAI începe să elaboreze evaluări de securitate detaliate înainte de sesiuni de antrenament pe care compania estimează că vor spori considerabil capacitățile modelelor. Aceste măsuri suplimentare se combină cu cele existente, aplicate anterior lansării modelelor.

„Sperăm că alte companii vor învăța din abordările noastre și își vor propune propriile soluții”

El a transmis acest mesaj.

Avansul a fost accelerat și va persista.

Altman a precizat că politicile vechi de securitate ale companiilor de inteligență artificială erau formulate într-o epocă în care principalul aspect de interes era modul în care se comportă un model complet atunci când este publicat. Această situație a evoluat pe măsură ce modelele au dobândit o capacitate crescută și o autonomie sporită.

„Progresul a fost rapid și va continua. Dar ar trebui să fie mai lent decât ar putea fi în alte condiții”

a spus Altman.

El subliniază că presiunea de a păstra un avantaj competitiv nu poate constitui un motiv pentru asumarea unor riscuri excesive.

„Nicio presiune competitivă nu ar trebui să justifice imprudența sau să permită ca dezvoltarea capacităților să o ia înaintea alinierii și monitorizării”

Altman a transmis.

Mesajul apare în contextul anunțului anterior al OpenAI privind adoptarea unor măsuri specifice pentru a reduce ritmul unor proceduri interne. Organizația a întrerupt temporar anumite sesiuni și a intensificat controalele de securitate și supravegherea în urma incidentelor ce au generat îndoieli asupra creșterii continue a puterii modelelor.

COMENTARII / 0