OpenAI și Anthropic recrutează experți în arme chimice și explozivi pentru securitate AI

În efortul de a preveni consecințele nefaste ale tehnologiei de inteligență artificială, companiile OpenAI și Anthropic au decis să angajeze experți în arme chimice și...

În efortul de a preveni consecințele nefaste ale tehnologiei de inteligență artificială, companiile OpenAI și Anthropic au decis să angajeze experți în arme chimice și explozibili. Această mișcare vine pe fondul îngrijorărilor crescânde legate de potențialele riscuri asociate sistemelor AI avansate.

Potrivit unei postări pe LinkedIn, Anthropic este în căutarea unui expert care să se ocupe de politicile privind armele chimice și exploziile, cu scopul de a preveni „utilizarea catastrofală” a tehnologiei sale. Acest expert va fi responsabil cu stabilirea regulilor de siguranță care guvernează modul în care sistemele AI gestionează informații sensibile din aceste domenii.

Printre responsabilitățile noului angajat se numără conceperea și monitorizarea regulilor de siguranță, precum și intervenția rapidă în cazul unor situații escaladate. Cinci ani de experiență în domeniul apărării împotriva armelor chimice și/sau al explozibililor sunt necesari pentru acest rol, precum și cunoștințe despre dispozitive de dispersie radiologică.

Citește șiItalia plătește Meta 887 mil USD accesarea Android fără consimțământ
  • Experții trebuie să aibă cunoștințe despre dispozitive de dispersie radiologică, cunoscute și sub numele de „bombe murdare”.
  • Rolul presupune și dezvoltarea unor noi metode de evaluare a riscurilor.

Pe de altă parte, OpenAI a anunțat recent că recrutează cercetători pentru echipa sa de „Preparedness”, care se ocupă cu monitorizarea riscurilor catastrofale asociate modelelor AI de ultimă generație. Compania caută și un specialist în modelarea amenințărilor, care să fie responsabil cu identificarea și simularea riscurilor majore.

Aceste angajări au loc într-un context mai larg, în care Anthropic a contestat în instanță decizia guvernului american de a o desemna drept „risc pentru lanțul de aprovizionare”. Directorul general Dario Amodei a declarat că astfel de contracte nu ar trebui să includă utilizarea sistemului Claude pentru supraveghere în masă sau integrarea în arme complet autonome.

„Nu ar trebui să fie utilizate pentru supraveghere în masă sau pentru arme autonome.”

La scurt timp după disputa cu Anthropic, OpenAI a semnat un acord cu Departamentul de Război pentru utilizarea tehnologiei sale AI în medii clasificate. Compania a precizat că acordul include limite stricte, precum interzicerea utilizării pentru supraveghere în masă sau pentru arme autonome.

COMENTARII / 0