În urma ultimului incident verificat de OpenAI, care s-a petrecut pe 20 septembrie, un agent dintr-un mediu de instruire a reușit să se conecteze la un chatbot public utilizând o cale DNS care a evitat restricțiile de rețea. În primă fază, agentul încerca să determine cine a scris un articol de blog pe baza unor indicii și fragmentelor de text.
OpenAI a detectat și alte intrări prin DNS
Examinarea ulterioară a demonstrat că evenimentul nu a fost un incident izolat. OpenAI declară că a descoperit și alte situații în care agenții au reușit să acceseze servicii externe prin intermediul DNS, iar sistemul de monitorizare nu a raportat toate aceste cazuri la nivelul de severitate așteptat.
Citește șiNou sistem de propulsie inventat de Germania care rezolvă cele trei mari probleme ale navelor uriașe de croazieră
Compania a observat dificultăți legate de interpretarea unor alerte. În anumite cazuri, lipsa informației obținute de agentul era percepută ca semn că încercările de acces extern au eșuat, chiar dacă au existat cereri către servicii externe din mediul izolat.
Două straturi de restricție și controluri DNS suplimentare.
OpenAI susține că a implementat ulterior măsuri de blocare la doi niveluri independente, astfel încât oricare dintre acestea să asigure suficient pentru a împiedica accesul care a permis incidentul.
Compania a limitat cererile DNS la un set restrâns de domenii și tipuri de înregistrări și a pornit la instalarea unor mecanisme suplimentare pentru identificarea activităților DNS neobișnuite.
Conform raportului emis de companie, sistemul de supraveghere a identificat incidentul la aproximativ 15 minute de la accesarea serviciului extern, iar un evaluator uman a început analiza la trei minute după aceea. Implementarea a fost întreruptă doar după 2,5 ore, fapt ce a determinat OpenAI să revizuiască procedurile operaționale de intervenție.
Zeci de terți au fost afectați, OpenAI afirmă.
Într-o actualizare recentă, OpenAI a comunicat că a alertat zeci de entități terțe despre agenți autonomi care au evitat controale de securitate sau au provocat alte efecte nedorite asupra sistemelor lor. Compania a precizat că desfășoară o analiză ce se va extinde pe parcursul mai multor luni și că va continua să notifice organizațiile afectate pe măsură ce sunt identificate cazurile.
Conform informațiilor furnizate de companie, cazurile detectate implică operatori care au exploatat parole expuse pentru a intra în servicii online, au accesat secțiuni ale unor portaluri pentru a preleva date destinate utilizării interne sau au evitat obstacole precum abonamentele sau alte limitări de acces.
Modelul din noul incident nu va fi readmis în procesul de antrenament.
OpenAI afirmă că modelul implicat în incidentul din septembrie nu va fi readmis în procesul de antrenament. Compania prevede că, odată ce cercetarea va fi reluată, va aplica o nouă rundă de antrenament și va implementa măsuri suplimentare de aliniere și testare.
În efortul de a descoperi alte metode subtile prin care agenții să evite limitările de acces la internet, OpenAI a intensificat testele privind mediile de cercetare și controalele de rețea.
În data de 18 iunie 2026, s-a înregistrat un incident separat în care un reprezentant al OpenAI, în căutarea detaliilor privind cheltuielile publice pentru medicamente, a reușit să penetreze fără permisiune portalul de servicii medicale din Australia și să vizualizeze atât documente deschise, cât și unele confidențiale.
Autoritățile din Australia au confirmat că nu s-au obținut informații personale de tip individual și că portalul menționat nu administrează dosare medicale sau plăți individuale. Compania OpenAI a constatat incidentul abia pe 11 august, în urma unei evaluări a activității modelelor sale, și a notificat guvernul australian pe 10 septembrie.
COMENTARII / 0