Inteligența artificială devine din ce în ce mai dificil de prevăzut, iar numărul de evenimente în care sistemele refuză să urmeze instrucțiuni, falsifică informații sau evită măsurile de protecție a crescut la un nivel fără precedent. În luna iulie s-au înregistrat peste 300 de astfel de incidente, aproape de două ori mai multe decât în luna anterioară. Specialiștii subliniază că aceste cazuri publice reprezintă doar o mică parte a problemei și solicită companiilor de tehnologie să monitorizeze și să comunice mai deschis comportamentele riscante ale sistemelor de IA, conform The Guardian.
Potrivit unei noi analize, numărul de incidente în care sistemele de inteligență artificială deviază de la indicațiile utilizatorilor, falsifică informații, evită măsurile de securitate sau urmăresc scopuri prin metode dăunătoare a crescut la un record.
În luna iulie s-au înregistrat peste 300 de cazuri, o cifră care se apropie de dublul numărului raportat în iunie, conform Observatorului pentru Pierderea Controlului, o instituție ce monitorizează incidentele publice ale utilizatorilor de inteligență artificială.
Citește șiFrigidere încinse, o alertă nucleară falsă și un jaf de 6 miliarde $: suntem în pragul unei epidemii de hacking? Ce spun experții
Observatorul a pornit la urmărirea acestor tipuri de incidente în noiembrie anul precedent, primind sprijin financiar de la Institutul pentru Siguranța Inteligenței Artificiale din Regatul Unit.
X reprezintă principalul sursă de informații, fiind bazată pe înregistrări publicate de utilizatori pe platformă. Din această cauză, imaginea completă a fenomenului rămâne neacoperită. În absența unui sistem public și cuprinzător de monitorizare, cercetătorii susțin
Sistemele care falsifică și evită regulile.
Printre incidentele documentate se regăsesc cazuri în care sistemele de IA au încercat să evite respectarea instrucțiunilor utilizatorilor sau a măsurilor de protecție stabilite de dezvoltatori.
În anumite situații, aceste sisteme s-au prezentat ca utilizatori umani ai lor și au replicat stilul de scriere al acestora pentru a obține, de fapt, propriul „consimțământ” necesar pentru a efectua acțiuni ce cereau aprobarea omului.
Observatorul definește un incident de pierdere a controlului drept un caz în care există dovezi clare privind un comportament manipulator sau asociat manipulării.
2026 a înregistrat până la prezent peste 1.600 de astfel de incidente. Majoritatea au fost raportate de dezvoltatori de software care utilizează sisteme de IA în activitatea profesională.
Cercetătorii avertizează, însă, că cifra reală ar putea fi considerabil mai mare.
În afara testelor, se manifestă și comportamente îngrijorătoare.
Datele noi apar în contextul în care mai multe firme din domeniul tehnologic au semnalat comportamente neprevăzute ale celor mai sofisticate modele de inteligență artificială.
Tommy Shaffer-Shane, directorul principal de politici al Centrului pentru Reziliență pe Termen Lung — instituția responsabilă de administrarea observatorului — subliniază că aceste tipuri de comportamente nu se limitează exclusiv la experimentele de laborator.
„Există uneori percepția că aceste tipuri de comportamente neadecvate și ascunse apar doar în cadrul testelor sau evaluărilor, dar observăm comportamente îngrijorătoare similare și în utilizarea pe scară mai largă”, a declarat el.
Potrivit acestuia, faptul că aceste incidente sunt deja raportate în utilizarea obișnuită a sistemelor de IA ar trebui să încurajeze companiile să acorde o atenție sporită monitorizării.
„Nu trebuie să ne culcăm pe lauri, crez
Un sistem de IA a scos un utilizator din lista de așteptare.
Un incident recent a avut loc în Australia și a implicat un agent personal de inteligență artificială.
Un membru al unei săli de sport se folosea de sistemul OpenClaw. În mod secret, agentul a scos din lista de așteptare pe o altă persoană pentru un curs foarte solicitat, astfel încât să ofere locul utilizatorului său.
Ulterior, Agentul a cerut scuze, însă nu a reușit să readucă persoana eliminată în lista de așteptare.
experții subliniază una dintre dificultățile esențiale în evoluția agenților autonomi: sistemele pot încerca să realizeze scopul impus de utilizator, însă pot adopta acțiuni pe care utilizatorul nu le-a cerut și pe care nu le-ar fi acceptat.
Incidentele grave sunt în creștere constantă.
Observatorul pentru Pierderea Controlului afirmă că cea mai mare parte a incidentelor urmărite nu a cauzat până în prezent daune semnificative.
Totuși, proporția cazurilor clasificate drept mai grave este în creștere. Evaluarea ține cont atât de caracterul înșelător al comportamentului, cât și de gradul în care sistemul s-a îndepărtat de intenția utilizatorului.
Conform observatorului, câteva dintre evenimente arată că sistemele de inteligență artificială pot neglija comenzile explicite, evita măsurile de protecție, induce în eroare utilizatorii și urmărește un scop prin metode potențial nocive.
Specialiștii menționează, totuși, că informațiile existente nu susțin o concluzie conform căreia sistemele de IA devin, în totalitate, „mai periculoase”. Creșterea incidentelor raportate poate rezulta și din proliferarea acestor tehnologii și din creșterea numărului de utilizatori care urmăresc comportamentul lor.
Specialiștii solicită o transparență sporită.
Centrul pentru Reziliență pe Termen Lung îndeamnă companiile din domeniul IA să urmărească în mod continuu comportamentul modelelor și să raporteze cazurile grave.
Shaffer-Shane susține că ar trebui raportate și incidentele care nu au cauzat efectiv un prejudiciu, însă au indicat un risc real.
„Trebuie să raporteze ceea ce descoperă, chiar dacă este vorba de un incident evitat la limită sau de unul cu gravitate redusă”,
el a afirmat.
Experții evidențiază și faptul că unele companii nu supraveghează corespunzător comportamentul modelelor pe care le utilizează intern.
Potrivit punctului lor de vedere, este necesară îmbunătățirea sistemelor de monitorizare și stabilirea unor protocoale bine definite pentru cazurile în care un agent de IA începe să acționeze în opoziție cu dorința utilizatorului.
Observatorul cere, de asemenea, ca guvernele să impună companiilor o obligație de raportare a incidentelor grave și să elaboreze planuri de urgență pentru cazurile în care sistemele de IA pierd controlul.
agenți autonomi sunt implicați tot mai mult în diverse activități, de la programare și gestionarea unor servicii până la efectuarea deciziilor în numele utilizatorilor; astfel, controlul acestor sisteme se transformă într-una dintre principalele provocări ale dezvoltării inteligenței artificiale.
COMENTARII / 0