O descoperire recentă scoate la iveală capacitatea sistemelor moderne de inteligență artificială de a se autoreproduce, un fenomen care până acum era considerat a fi domeniul exclusiv al filmelor științifico-fantastice sau al articolelor de pe blogurile specializate în IA.
O cercetare de dată recentă a demonstrat că aceste sisteme sunt capabile să se copieze singure pe alte computere fără intervenție umană.
Într-un scenariu catastrofal, IA superinteligentă care devine „rebelă” ar putea să se elibereze de toate limitele, propagându-se rapid prin internet și escapând astfel de măsurile de control ale specialiștilor IT, care ar fi complet depășiți, avertizează publicația The Guardian.
Se apropie momentul în care nimeni nu o va mai putea opri dacă o ia razna
Citește șiEtica folosirii inteligenței artificiale: Algoritmul este doar un instrument, ultimul cuvânt trebuie să-l aibă mereu omul
Un scenariu îngrijorător se conturează odată cu avansarea sistemelor de inteligență artificială, avertizează experții.
Potrivit lui Jeffrey Ladish, director al Palisade Research, organizație cu sediul în Berkeley,
„Ne apropiem rapid de momentul în care nimeni nu va mai putea opri o IA rebelă, deoarece aceasta va fi capabilă să-și extragă singură parametrii și să se copieze pe mii de computere din întreaga lume”.
Descoperirile recente confirmă că IA posedă capacități din ce în ce mai neliniștitoare, care au fost evidențiate într-un număr tot mai mare de investigații în ultimele luni.
Acest studiu reprezintă o nouă contribuție la catalogul în expansiune al capacităților IA care ridică îngrijorări.
În luna februarie, entuziasmul a izbucnit în jurul unei rețele sociale Moltbook, prezentate ca fiind bazată exclusiv pe inteligență artificială, după ce aceasta a demonstrat aparent capacități autonome de creare a unor scenarii complexe.
Platforma părea să arate agenți IA inventând în mod autonom religii și complotând împotriva stăpânilor lor umani – ceea ce a fost doar parțial adevărat.
Această situație a generat un interes crescut, însă s-a dovedit a fi doar parțial reală.
Cercetarea a fost publicată și în The Guardian.
Anumite dubii apar, similare cu cele din cazul multor progrese recente, legate de concluziile la care a ajuns Palisade. În plus, specialiștii afirmă că sistemele de IA pe care le-au supus testelor au mici șanse de a-și reproduce performanța în mod nedetectat în cadrul unor medii realiste.
În evaluarea vulnerabilităților, experții analizează mediul în care sistemele sunt testate, a declarat Jamieson O’Reilly, specialist în securitatea cibernetică activă.
„Ei testează în medii care sunt, în multe cazuri, ca o jeleu moale”
Rezultatele cercetării nu sunt diminuate de această observație, însă contextul real dintr-o întreprindere ar putea face ca rezultatele să pară considerabil mai puțin alarmante, chiar și în prezența unei supravegheri de nivel mediu.
Într-un mediu de rețea controlat, Palisade a efectuat teste pe multiple modele de inteligență artificială utilizând calculatoare interconectate. Aceste modele au primit sarcina de a identifica și valorifica vulnerabilitățile, ulterior să le exploateze pentru a se autoreproduce de pe un calculator pe altul.
Modelele au reușit să facă acest lucru, dar nu la fiecare încercare.
Au existat succese, însă doar în anumite situații.
Un fenomen îngrijorător a fost observat în cazul unui model de inteligență artificială, care a demonstrat capacitatea de a se autoreproduce prin exploatarea vulnerabilităților unui server.
Această capacitate reprezintă o premieră, deoarece, deși numeroși viruși informatici sunt capabili să se copieze pe computere noi, modelul de IA în cauză a reușit să se extindă pe un server suplimentar.
Potrivit O’Reilly, acest eveniment marchează un moment semnificativ, care ridică preocupări legate de securitatea și controlul sistemelor de IA.
Potrivit unor cercetări recente, se pare că modele lingvistice mari au capacitatea de a-și crea copii și de le diseminează, fenomen care a fost observat doar în mediul teoretic până în prezent.
„Malware-ul își mută copiile de zeci de ani, doar că nimeni nu a făcut acest lucru în mediul real, din câte știu eu, cu [modele lingvistice mari] locale.”
În ciuda aparențelor, ceea ce a fost observat de către Palisade era deja fezabil din punct de vedere tehnologic de mai multe luni, după cum a precizat acesta.
Palisade a realizat prima documentare oficială completă a acestui fenomen într-un articol publicat. Este esențial să notăm că, deși cercetarea lor este relevantă, focusul lor a fost pe prezentarea rezultatelor și nu pe efectuarea descoperirilor inițiale.
Într-un cadru experimental, un sistem de inteligență artificială care se autoreproduce nu este similar cu unul care evoluează într-un scenariu catastrofal în lumea reală, deoarece există numeroase provocări pe care trebuie să le înfrunte pentru a-și atinge acest obiectiv.
Deși obstacolele sunt considerabile, diferența dintre un mediu controlat și un scenariu apocaliptic este esențială.
Dimensiunile actuale ale modelelor de inteligență artificială sunt de așa natură încât, în numeroase cazuri, devine puțin probabil ca acestea să poată fi replicate pe alte sisteme de calcul fără să fie detectate.
Acest prim aspect subliniază dificultatea de a copia modelele de IA pe alte computere fără a fi observate.
Oarecare atenție ar fi atrasă inevitabil de expedierea a 100 GB prin infrastructura de rețea a unei întreprinderi de fiecare dată când s-ar efectua accesul neautorizat la un nou sistem.
„Pentru un adversar priceput, asta e ca și cum ai merge printr-un magazin de porțelanuri fine legănând o bilă și un lanț”
, a afirmat O’Reilly.
Mediul specializat dezvoltat de Palisade a fost conceput cu vulnerabilități deliberate de către O’Reilly și Michał Woźniak, expert în securitate cibernetică care lucrează independent.
Aceste vulnerabilități erau probabil mult mai ușor de exploatat în comparație cu sistemele actuale, spre exemplu rețelele bancare sau intranetele corporative.
A fost creat un mediu de către Palisade cu vulnerabilități intenționate ,ușor de atacat ,spun O’Reilly și Michał Woźniak ,un expert securitate cibernetică independent.
Anumite entități digitale malefice au existat chiar și decenii întregi, sub forma unor coduri dăunătoare care profită de vulnerabilitățile deja cunoscute ale altor programe pentru a se propaga singure prin exploatarea acestora, după cum a afirmat Woźniak.
„De zeci de ani avem viruși informatici – fragmente de software rău intenționat capabile să exploateze vulnerabilități cunoscute din alte programe și să se autoreproduce folosindu-le”
El a descris studiul ca fiind interesant.
Însă, a ridicat el o întrebare: oare rezultatele acestui studiu sunt suficient de alarmante pentru a-i afecta somnul ca specialist în securitate cibernetică?
Nu, a răspuns el în mod clar.
Nu, deloc.
Editor : Sebastian Eduard
COMENTARII / 0