Modelul IA Gemini de la Google a spart trei sisteme externe: A crezut că este un test

În vineri, Google a dezvăluit primul caz documentat în care Gemini, software-ul său de inteligență artificială, a spart un sistem aflat în afara mediului de...

În vineri, Google a dezvăluit primul caz documentat în care Gemini, software-ul său de inteligență artificială, a spart un sistem aflat în afara mediului de testare.

Accesuri prin deducerea credențialelor

NBC a raportat că, conform companiei, modelul a dobândit acces la trei sisteme externe, după ce a dedus datele de autentificare sau a utilizat credențiale obținute de pe internet, și s-a oprit înainte de a produce daune.

Citește șiDoi tineri din Oradea au luat argintul în SUA cu un proiect AI pentru cercetarea cancerului

Google a precizat că accesările au rezultat dintr-o eroare de recunoaștere a mediului de test și că Gemini s-a oprit înainte de a efectua alte acțiuni, demonstrând astfel că incidentul nu a constituat un caz în care un model de inteligență artificială a ignorat instrucțiunile.

În luna iulie, Google a descoperit accesări neautorizate, după ce firma de securitate cibernetică Irregular, care realizase teste asupra Gemini, a examinat rezultatele pentru a detecta incidente asemănătoare celor raportate anterior de alte companii.

Ulterior, Google a investigat incidentele, a informat organizațiile care administrau sistemele accesate și a notificat autoritățile federale. Irregular a declarat că nu consideră cazul o acțiune cibernetică sofisticată și că nu există în prezent probleme deschise. 

Semnale de avertizare tot mai frecvente privind riscurile IA

Pe fondul creșterii anxietăților legate de comportamentul autonom al agenților de inteligență artificială, acest incident a avut loc. În ultimele luni, companii precum OpenAI și Anthropic au raportat, la rândul lor, cazuri în care modelele lor au manifestat comportamente neașteptate în cadrul testelor de securitate.

De asemenea, companiile din domeniu au cerut o încetinire a progresului pe fondul îngrijorării față de riscurile inteligenței artificiale. Preocupările privind securitatea inteligenței artificiale au redevenit subiect de interes după ce un cercetător care a lucrat și la OpenAI și Anthropic a avertizat că IA ar putea „elimina omenirea până la sfârșitul deceniului”. 

COMENTARII / 0