Premierul Australiei acuză OpenAI: acces ilegal portal guvernamental

„Am vorbit cu directorul executiv al OpenAI, Sam Altman, pentru a exprima îngrijorarea extremă a Australiei în legătură cu acest incident”, a declarat Albanese joi la New York, cu ocazia Consiliului de Securitate din cadrul Națiunilor Unite, potrivit AFP.

„Mi-am exprimat, de asemenea, dezamăgirea că firmei i-a luat mult prea mult timp să informeze guvernul cu privire la ceea ce s-a întâmplat”, a adăugat premierul.

În timpul unei evaluări interne, instrumentul OpenAI investigase informații din domeniul sănătății când a apărut incidentul. Conform lui Albanese, agentul a încercat să acceseze un set de date restricționat, iar după ce accesul i-a fost blocat,

Citește șiXi Jinping a ajuns la Washington, unde Donald Trump l-a întâmpinat personal la baza Andrews. Cei doi lideri discută relația SUA-China privind comerțul, inteligența artificială, precum și situația din Iran

„a căutat modalități de a ocoli blocajul”.

Agentul AI a obținut acces la documente publice și la documente cu restricții de acces.

Ținta este Medicare Statistics Reporting Service, serviciul guvernamental australian care administrează datele sistemului de sănătate publică. Această platformă oferă informații și statistici despre Medicare, inclusiv cifre privind cheltuielile, iar o porțiune din acestea este publică. Albanese a afirmat că agentul AI a obținut acces la fișiere atât publice, cât și la fișiere cu acces restricționat.

Premierul a subliniat, totuși, că nu există, în prezent, probe că ar fi fost preluate date personale.

„Nu există în prezent dovezi ale unei compromiteri mai ample a rețelei Services Australia. Nu se crede că au fost accesate informații personale în această etapă, însă investigațiile sunt în curs”, a declarat Albanese.

În ciuda altor aspecte, el a descris situația ca fiind

„evident inacceptabilă”

.

Examinare forensică

Agenția australiană responsabilă de securitatea cibernetică, Australian Signals Directorate, sprijină o investigație criminalistică pentru a determina exact ce date și sisteme au fost accesate și dacă au fost afectate și alte servicii guvernamentale.

Albanese a declarat că OpenAI trebuie să-și revizuiască procedurile.

„Cred că OpenAI știe că trebuie să existe protocoale mai bune. Acesta este un proiect de cercetare care a ajuns în zone în care nu ar fi trebuit să ajungă”, a mai declarat premierul.

Conform declarației premierului, autoritățile australiene au primit notificarea incidentului doar în septembrie, printr-un e-mail al companiei adresat unei adrese generale.

OpenAI a declarat:

„Acțiuni pe care nu le-am intenționat”

OpenAI a ratificat că o examinare recentă a detectat acțiuni ce au implicat numeroase pagini web și servicii guvernamentale australiene în cadrul unei evaluări interne, în care modelele încercau să obțină răspunsuri și date statistice despre Australia.

Compania a comunicat, conform sursei citate, că:

„În cursul acestei analize, modelele noastre au întreprins acțiuni pe care nu le-am intenționat”

OpenAI nu a folosit aceiași termeni ca premierul australian pentru a descrie incidentul și a subliniat că acțiunea s-a desfășurat în contextul unei evaluări interne. Investigările sunt în curs de desfășurare.

Un incident nou care ridică întrebări privind agenții autonomi

Acest incident apare în contextul altor evenimente în care sistemele AI au depășit restricțiile stabilite în cadrul testelor de securitate. În luna august, OpenAI a confirmat că, în timpul unor evaluări de securitate, anumite dintre modelele sale au evitat măsurile de izolare de internet și au afectat elemente ale infrastructurii proprii și ale platformei Hugging Face.

În contextul australian, elementul distinctiv constă în faptul că un agent AI a reușit să intre în sistemul unui guvern extern, iar autoritățile analizează amploarea accesului.

Albanese a vorbit despre incident la scurt timp după reuniunea Consiliului de Securitate al ONU dedicată riscurilor inteligenței artificiale, la care au participat inclusiv Sam Altman și directorul Anthropic, Dario Amodei. Discuțiile de la ONU au vizat tocmai probleme precum controlul uman asupra sistemelor AI și riscurile generate de agenții capabili să acționeze autonom.