OpenAI avertizată de angajații săi: probleme de securitate dezvăluite

OpenAI a primit, potrivit Reuters, semnale de la cinci persoane din interior, că temerile au ajuns la conducerea executivă și la consiliul de administrație. Printre...

OpenAI a primit, potrivit Reuters, semnale de la cinci persoane din interior, că temerile au ajuns la conducerea executivă și la consiliul de administrație. Printre aspectele ridicate se evidențiază: accesul excesiv la documentație internă, verificările insuficiente ale unor instrumente software și posibilitatea ca angajați sau persoane externe să acceseze informații confidențiale.

Angajații aveau posibilitatea de a accesa detalii despre proiecte la care nu erau implicați.

Conform informațiilor menționate, o porțiune semnificativă a codului companiei era depozitată într-un depozit unificat, denumit monorepo. Angajații cu drepturi de acces la acest depozit puteau accesa informații tehnice despre numeroase proiecte, inclusiv unele care nu erau legate de activitatea lor.

Citește șiUn mecanic polonez a desfăcut bucată cu bucată cutia de viteze hibridă de pe Dacia și Renault. Ce a descoperit

O secțiune a materialelor de cercetare putea fi accesată și pe platforme ca GitHub și Slack. Problema s-a agravat odată cu evoluția agenților AI, care pot procesa rapid cantități mari de informații și pot extrage date relevante.

OpenAI afirmă că proiectele cele mai sensibile beneficiază de protecție prin sisteme distincte, acces limitat. Compania menționează că depozitul comun nu include toate datele esențiale și nici parametrii numerici care guvernează funcționarea modelelor sale. Reuters susține că anumite instrumente interne de testare erau modificate adesea de cercetători, fără ca fiecare modificare să fie supusă unei verificări riguroase din punct de vedere al securității.

Un aparat de captare audio ascuns și îndoieli privind accesul la informații sensibile.

În octombrie, problemele de securitate au revenit în atenție, odată cu arestarea unui inginer din OpenAI, cetățean saudit, acuzat că a instalat un dispozitiv de înregistrare audio în sala de conferințe destinată conducerii. Conform documentelor judecătorești, Abdulrahman Alfozan, în vârstă de 35 de ani, ar fi utilizat și un instrument AI intern pentru a căuta informații despre deplasările unor directori ai OpenAI în Arabia Saudită.

În cadrul investigației, anchetatorii au descoperit și legături ale acestuia cu un membru al familiei regale saudite, care a încercat să îl atragă pentru un proiect de inteligență artificială. Reuters subliniază, de asemenea, un avertisment intern emis în 2023 de cercetătorul Leopold Aschenbrenner, care a exprimat frica că autoritățile chineze ar putea obține acces la tehnologia companiei.

OpenAI a mutat ingineri în securitatea sistemelor

În scopul de a diminua riscurile, firma a demarat o restructurare a operațiunilor sale. În luna august, circa un sfert din inginerii care se ocupau de sistemele de producție au fost reorientați spre optimizarea infrastructurii de securitate, conform unei surse. Proiectul este orchestrat de Thibault Sottiaux, unul dintre directorii care contribuie la dezvoltarea produselor.

Elana Widmann, purtătoarea de cuvânt a OpenAI, a afirmat că compania se situează printre țintele cele mai frecvent atacate de cibercriminali și alocă resurse semnificative pentru a proteja tehnologia, informațiile și personalul. Organizația susține că efectuează controale regulate ale securității instrumentelor sale interne și că își va întări în continuare sistemele de apărare. În ziua de luni, în urma cererii de informații din partea Reuters despre investigație, OpenAI a comunicat că pregătește o nouă fază internă de optimizare a securității.

COMENTARII / 0