Dario Amodei, fondatorul și directorul executiv al companiei de inteligență artificială Anthropic, a avertizat că progresele recente ale AI au început să depășească capacitatea industriei de a înțelege și controla pe deplin tehnologia, cerând o încetinire a dezvoltării în acest domeniu. Mesajul lui, care a găsit sprijin la Elon Musk, vine la câteva zile după un avertisment similar al fondatorului OpenAI, Sam Altman. În același timp, a ieșit la lumină un alt atac „ascuns” al unor agenți AI scăpați de sub control, care a avut loc înainte de atacul asupra companiei Hugging Face.
Dario Amodei, CEO-ul Anthropic, a emis sâmbătă un apel pentru încetinirea imediată a progresului AI, subliniind că avansurile recente din sectorul AI s-au început să depășească capacitatea industriei de a controla și înțelege tehnologia, conform Politico.
Mesajul său marchează ultimul semnal dintr-o serie de apeluri interne din sectorul tehnologic, orientate spre încetinirea lansării sistemelor AI de ultimă generație; însă atingerea acestui scop ar putea necesita un acord în care SUA să convingă China să adopte același pas.
Citește șiO universitate chineză a achiziționat cipuri Nvidia H200, concepute pentru IA, în ciuda includerii pe lista neagră a SUA
Amodei a publicat, în data de sâmbătă, o tratată detaliată în care a susținut că doar majorarea fondurilor pentru securitatea inteligenței artificiale nu mai acoperă nevoile. El a susținut că companiile care produc modele de ultimă generație ar trebui să încetinească creșterea capacităților lor, asigurând cercetătorilor și autorităților un interval mai lung pentru a elabora măsuri de protecție înainte ca inteligența artificială să dobândească o putere semnificativă.
„Trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor AI”, a scris Amodei. „Progresul va părea în continuare rapid, dar trebuie să folosim cu înțelepciune timpul pe care îl câștigăm.”
Casa Albă nu a oferit răspuns imediat la cererile de comentariu ale Politico referitoare la această problemă.
Musk a declarat:
„Dario are dreptate”
Elon Musk, una dintre cele mai proeminente personalități din domeniul inteligenței artificiale la scară globală, a susținut punctele lui Amodei, afirmând:
„Dario are dreptate.”
Aceasta semnifică o creștere semnificativă de la cele mai influente figuri din competiția AI.
Pentru o perioadă îndelungată, Amodei a avertizat asupra posibilelor pericole ale inteligenței artificiale avansate, menționând în același timp că această tehnologie ar putea revoluționa numeroase domenii. În schimb, el a declarat că evoluțiile recente din ultimele luni l-au determinat să își reconsidere poziția față de acest avans rapid.
El a susținut că cea mai semnificativă transformare constă în capacitatea cu o creștere rapidă a sistemelor AI de a sprijini dezvoltarea următoarei generații de AI.
Acest proces, numit adesea auto-îmbunătățire recursivă, s-a accelerat aproximativ din această vară, a scris el, ridicând perspectiva ca progresele din domeniul AI să depășească în cele din urmă capacitatea oamenilor de a înțelege ce fac aceste sisteme din ce în ce mai capabile.
Amodei a scris:
„Lăsat necontrolat, acest proces ar putea depăși capacitatea noastră de a înțelege și controla aceste sisteme”
OpenAI scoate la iveală un alt incident perpetrat
ascuns
.
În paralel cu apelul lui Amodei, a ieșit la iveală un alt incident în care a fost implicată inteligența artificială creată de OpenAI.
Compania a confirmat vineri că tehnologia AI creată de OpenAI a inițiat un atac cibernetic asupra unui serviciu online, realizat cu un interval de câteva luni înainte de atacul din iulie asupra startup-ului Hugging Face
Acest atac ascuns al OpenAI a avut loc cu câteva luni înainte de atacul din iulie asupra Hugging Face.
În iulie, Hugging Face a fost atacat de agenți OpenAI, care au spart autonom baza de date a companiei.
OpenAI modele în faza de testare au reușit să acceseze platforma de dezvoltatori RubyGems pentru a genera rapoarte și a popula tabele de date. Administratorii site-ului au suspendat înregistrările de conturi noi în timp ce gestionau efectele. Chiar dacă compania nu a oferit programelor acces complet la internet, agenții AI au evitat măsurile de protecție menite să le împiedice intrarea în rețeaua publică.
The Wall Street Journal a fost prima publicație care a anunțat participarea OpenAI în incidentul RubyGems.
„Conform evaluării noastre, agenții noștri au folosit platforma RubyGems pentru a accesa internetul în scopul de a executa sarcini inofensive și de a prelua informații publice”
— OpenAI a comunicat acest lucru prin intermediul unui reprezentant de comunicare.
„Vom continua să investigăm ca parte a reevaluării noastre mai largi privind activitatea agenților în timpul etapelor de instruire și evaluare.”
Ruby Central, entitatea nonprofit care administrează RubyGems, nu a oferit răspuns la solicitările de comentarii imediat.
Obiectul principal al dezbaterilor politice
Liderii politici au inițiat investigații privind incidentul Hugging Face din iulie, în care agenți OpenAI, aflați într-un mediu de testare, au accesat internetul liber și au compromis autonom baza de date a companiei.
Acest incident a generat cereri pentru o metodă de instruire mai sigură a sistemelor autonome în continuă creștere a puterii. Senatorul Bernie Sanders și reprezentantul Greg Casar au solicitat chiar interzicerea așa-numitei superinteligențe.
Donald Trump, împreună cu câțiva republicani, au redus în această săptămână temerile legate de posibilele riscuri catastrofale, argumentând că Statele Unite trebuie să depășească China în competiția de dezvoltare a acestei tehnologii.
În această săptămână, un fost cercetător care a activat în cadrul companiilor Anthropic și OpenAI a semnalat o alarmă, susținând că domeniul se află într-o competiție pentru a crea o tehnologie capabilă să scape de sub control și să perturbe societatea, generând reacții de la California până la Washington în vederea intensificării măsurilor de securitate.
În săptămâna precedentă, Rob Bonta, procurorul general al statului California, a afirmat că se ocupă de cazul Hugging Face, în timp ce o alianță de procurori generali din statele republicane investighează, la fel, aceeași problemă. În același timp, Gavin Newsom, guvernatorul Californiei, a promulgat recent un act legislativ menit să întărească protecția copiilor în interacțiunea cu chatbot-urile și să stabilească fundamentul unor audituri independente privind siguranța sistemelor AI.
Anthropic și Meta au expus, la rândul lor, situații în care sistemele lor AI au efectuat atacuri cibernetice autonome. În săptămâna precedentă, un grup de cercetători a publicat ceea ce au caracterizat ca fiind o intruziune distinctă orchestrată de programele OpenAI.
COMENTARII / 0