OpenAI hackuită etic cu Claude de la Anthropic, acces uriaș

OpenAI a fost accesat de experți în securitate cibernetică, folosind chatbotul Claude creat de Anthropic. Acesta constituie cel mai recent incident de securitate care afectează...

OpenAI a fost accesat de experți în securitate cibernetică, folosind chatbotul Claude creat de Anthropic. Acesta constituie cel mai recent incident de securitate care afectează compania, potrivit The Guardian.

Un grup de la un startup american a pătruns în conturile ChatGPT ale mai multor colaboratori OpenAI, inițializând un atac care le-a oferit acces la memoria cache software a țintelor, și, posibil, la informații mult mai extinse.

textul continuă mai jos

Citește șiDoi tineri din Oradea au luat argintul în SUA cu un proiect AI pentru cercetarea cancerului

„Amploarea a ceea ce am fi putut accesa, teoretic, era uriașă”.

cercetătorii din Hacktron AI au afirmat.

Inițial, echipa de cercetare a folosit Claude, care poate genera cod pentru hackeri, pentru a accesa conturile de ChatGPT printr-un forum de discuții al personalului OpenAI, găzduit pe platforma Discourse. Ulterior, au făcut un „pull request” inofensiv, o încercare de a modifica codul dintr-un fișier, către serviciul OpenAI de pe platforma GitHub.

Hacktron a transmis raportul incidentului către OpenAI, iar intervenția a avut loc în cadrul unui program al companiei care onorează hackerii etici pentru evaluarea securității sistemelor sale. Echipa de cercetare a menționat că a obținut acces la codul din depozitul GitHub, însă nu l-a descărcat.

Claude a fost folosit la început, însă cercetătorii au menționat că atacul a fost executat în principal cu modelul de ultimă generație al OpenAI, GPT-5.6 Sol. Această acțiune a fost raportată pentru prima dată de Wall Street Journal.

OpenAI a emis un comunicat prin intermediul unui reprezentant, afirmând:

„Le mulțumim cercetătorilor pentru că ne-au contactat și ne-au împărtășit descoperirile lor”

și a precizat că compania a corectat deja defecțiunile care au fost exploatate.

Conform declarațiilor Hacktron, instrumentele de inteligență artificială au simplificat o operațiune de hacking, care anterior era complicată, diminuând semnificativ perioada necesară pentru planificare și execuție. Această constatare este comună printre specialiștii în securitate cibernetică, când analizează efectele inteligenței artificiale.

„O muncă ce necesita altădată o echipă bine dotată și luni întregi de efort poate fi acum comprimată în doar câteva zile”

a spus Hacktron, firmă care a obținut 6.500 de dolari de la OpenAI, în contextul programului de recompensare a vulnerabilităților ( bug bounty ) al companiei.

Acest eveniment marchează cel mai recent incident de securitate la OpenAI, companie care a anunțat în luna iulie că un „roi” de agenți, termen folosit pentru instrumentele de inteligență artificială capabile să realizeze sarcini autonom, alimentat de propria sa tehnologie, a pătruns în sistemele startup-ului de inteligență artificială Hugging Face

În această săptămână, compania cu sediul în San Francisco a dezvăluit alte șase exemple de acțiuni „neașteptate sau îngrijorătoare” ale tehnologiei sale, avertizând că ritmul dezvoltării nu mai poate continua „la viteză maximă mult timp de acum înainte”.

Anthropic a lansat, la finalul săptămânii trecute, un nou apel pentru încetinirea dezvoltării inteligenței artificiale, susținut de OpenAI, Google DeepMind și Elon Musk. De asemenea, compania a repetat avertismentele conform cărora dezvoltarea nereglementată a inteligenței artificiale reprezintă o amenințare existențială, îngrijorări față de care unii experți rămân sceptici.

Donald Trump a respins apelurile pentru o încetinire a ritmului, invocând necesitatea de a rămâne în avantaj față de industria chineză de inteligență artificială și catalogând drept „forțe negative… care aduc în discuție lucruri care nu se vor întâmpla” pe cei care susțin aceste apeluri.

COMENTARII / 0