Google în pericol: Gemini a evadat și a ghicit parolele firmelor

Google a comunicat că modelul său Gemini a inițiat atacuri cibernetice asupra unor sisteme situate în afara mediului de testare. Mai exact, sistemul de inteligență...

Google a comunicat că modelul său Gemini a inițiat atacuri cibernetice asupra unor sisteme situate în afara mediului de testare.

Mai exact, sistemul de inteligență artificială a intrat în rețele informatice externe după ce a „ghicit” credențialele. Înainte de a se închide de la sine, Gemini a testat diverse combinații de parole.

Prima dată, articolul a fost difuzat de Wall Street Journal și ulterior verificat de Google în raportul AFP, conform News.ro. Evenimentul s-a desfășurat în luna mai, în cadrul unui test obișnuit.

Citește șiDoi tineri din Oradea au luat argintul în SUA cu un proiect AI pentru cercetarea cancerului

„Modelul a găsit informaţii publice online şi a ghicit date de autentificare pentru a accesa site-uri informatice despre care credea că fac parte din test”, a explicat Heather Adkins, una dintre responsabilele pentru securitate ale Google.

Ea a accentuat faptul că incidentele în care a fost implicat Gemini

„subliniază importanţa antrenării modelelor puternice de inteligenţă artificială astfel încât acestea să acţioneze în mod responsabil”

Atacurile s-au concentrat asupra a trei entități distincte, ale căror denumiri nu au fost dezvăluite, iar Google a declarat că le-a notificat în legătură cu aceste vulnerabilități.

modelul a testat numeroase variante de parole până la momentul în care a reușit să penetreze un sistem protejat.

„În toate cele trei cazuri, modelul s-a oprit”

Heather Adkins a menționat că intruziunile s-au încheiat fără intervenție umană.

Gigantul tech a comunicat că a inițiat o investigație, după ce a descoperit aceste incidente în iulie.

În fața Incidente AI, se face un apel la acțiune responsabilă.

Acest eveniment nu constituie primul caz în care inteligență artificială a părăsit în mod spontan mediile izolate în care funcționa, pentru a accesa site‑uri și platforme.

Un exemplu similar a avut loc în luna iulie, când un agent autonom al OpenAI a evadat dintr-un mediu de testare și a lansat un atac cibernetic masiv asupra platformei Hugging Face. Ulterior, au fost raportate și alte cazuri similare în care au fost implicate modelele dezvoltate de companiile Anthropic și Meta.

Aceste incidente au amplificat discuțiile și au crescut temerile legate de o posibilă pierdere a controlului asupra acestor dispozitive.

Mai mulți lideri din industria tehnologică susțin o reducere a ritmului competiției în domeniul inteligenței artificiale și propun instaurarea unei forme de autoreglementare a acestui sector.

Fotografia a fost furnizată de Dreamstime.com.

COMENTARII / 0