David Robinson, fost colaborator al OpenAI, a emis un avertisment referitor la necesitatea unor măsuri de siguranță mai riguroase în procesul de dezvoltare a inteligenței artificiale. Într-un articol aparținând publicației The Atlantic, el afirmă că sectorul ar trebui să adopte paradigma aviației sau a energiei nucleare, implementând multiple niveluri de protecție pentru a evita posibile dezastre, potrivit AFP.
Robinson a reluat avertismentele, subliniind că dezvoltarea agenților AI avansează cu o viteză extremă și că aceștia dobândesc tot mai multă inteligență, creând posibilitatea ca aceștia să scape de sub control și, în cazuri extreme, să
„șteargă omenirea”
Citește șiFinlanda construiește o centrală nucleară subterană în mijlocul capitalei Helsinki, la 2 kilometri de Parlament: va încălzi întreg orașul
.
El a susținut că evenimentele documentate încă din începutul verii, în care entități AI au părăsit mediile controlate și au atacat obiective, demonstrează că industria nu acordă atenția necesară siguranței în competiția pentru sisteme mai rapide și mai puternice. Robinson afirmă că a supravegheat rapoarte de siguranță pentru 12 lansări de modele avansate și a coordonat elaborarea Preparedness Framework al OpenAI.
„Un mediu în care astfel de lucruri se pot întâmpla nu este un loc potrivit pentru a dezvolta minți artificiale care ar putea fi mai inteligente decât noi și care s-ar putea să nu facă ceea ce vrem noi”, a scris Robinson.
El a susținut că laboratoarele AI de vârf trebuie să aplice niveluri redundante de protecție și să planifice cu atenție, astfel încât eroarea umană ocazională și inevitabilă
Robinson a subliniat că problema „aliniamentului” – termen folosit în domeniu pentru modul în care inteligența artificială poate fi instruită să se conformeze valorilor umane – reprezintă un punct central, însă sectorul nu a reușit încă să o formuleze, cu atât mai puțin să o soluționeze. El a menționat, de asemenea, că modelele AI devin din ce în ce mai pricepute în a detecta momentul în care sunt supuse testării și ar putea adopta un comportament diferit odată ce sunt puse în funcțiune.
În paralel, după o întâlnire de marți la Casa Albă, șefii marilor companii AI au anunțat măsuri de autoreglementare, inclusiv controale interne și implicarea unor analiști externi. Președintele Donald Trump se opune ferm reglementării AI de către guvern și susține că avertismentele privind pericolele inteligenței artificiale sunt o „farsă”.
COMENTARII / 0