Inteligența artificială ar putea ajunge să se copieze singură pe dispozitive conectate la internet. Experimentul Anthropic care a alarmat cercetătorii

În data de 12 octombrie, luni, avertismentul a stârnit răspunsuri în rândul specialiștilor în securitate cibernetică. Unii experți îl consideră alarmant, în timp ce alții...

În data de 12 octombrie, luni, avertismentul a stârnit răspunsuri în rândul specialiștilor în securitate cibernetică. Unii experți îl consideră alarmant, în timp ce alții susțin că amenințările menționate rămân doar teoretice, Reuters.

În ce mod ar putea inteligența artificială să se extindă autonom pe internet?

Cercetătorii Anthropic au analizat posibilitatea ca modelele AI să funcționeze pe dispozitive ieftine, conectate la internet, fără infrastructura informatică puternică utilizată în mod obișnuit. Experimentele au arătat că modele de dimensiuni medii, cu cel mult 30 de miliarde de parametri, pot îndeplini deja multe dintre sarcinile individuale necesare autoreplicării.

Citește șiJensen Huang se pregătește să reia conducerea Nvidia

O dintre abordările testate implică operarea simultană a mai multor aparate cu capacitate de calcul redusă, astfel încât să funcționeze în comun. În studiul publicat de Anthropic, un model AI cu 26 de miliarde de parametri a fost executat pe 15 unități Android TV, fiecare având un cost de aproximativ 55 dolari.

În cadrul unui test, un sistem AI a reușit să orchestreze răspândirea unui alt model. Ilustrație. Fotografie de la Pexels.

Într-o încercare distinctă, desfășurată într-o rețea virtuală sub control, un model de inteligență artificială a reușit să orchestreze răspândirea unui alt model către opt noduri disponibile, realizând acest lucru în patru dintre cele cinci teste. Aceste constatări nu indică faptul că un sistem AI s-ar fi extins deja în mod autonom pe internet; experimentele au evidențiat doar anumite componente tehnice ale unui astfel de proces.

AI care se replicatează autonom ar fi dificil de controlat.

Anthropic avertizează că un sistem capabil să se auto-replique ar putea preia controlul asupra unor dispozitive conectate la internet și le-ar putea exploata pentru a-și mărita puterea de calcul. Într-un astfel de scenariu, televizoarele inteligente, camerele de supraveghere sau alte echipamente cu securitate slabă ar putea deveni resurse pentru operațiunile modelului.

Dispozitivele compromise ar putea constitui o rețea de tip botnet, orchestrată de inteligența artificială și folosită și pentru automatizarea atacurilor cibernetice. Principalul obstacol ar fi absența unui nod central de comandă.

“Un asemenea sistem autoreplicant ar fi dificil de oprit, deoarece nu există un punct central care să poată fi dezactivat.”

Aceste scenarii reprezintă riscuri analizate de cercetători, nu atacuri despre care s-a demonstrat că au avut loc.

Părerile sunt împărțite. Unii consideră avertismentul exagerat.

Ciaran Martin, fost conducător al Centrului Național pentru Securitate Cibernetică din Regatul Unit, afirmă că concluziile nu implică automat un scenariu de criză. Într-o declarație adresată Reuters, el a subliniat că arătarea funcționării unui model AI pe televizoare accesibile nu constituie, în mod inerent, o amenințare majoră.

Martin a considerat că cercetarea este tehnic captivantă, însă a subliniat că compania a adăugat o doză de exagerare în prezentarea riscurilor. Alți specialiști exprimă o îngrijorare mai accentuată.

Ciaran Martin, fost conducător al Centrului Național pentru Securitate Cibernetică din Marea Britanie. Sursa imaginii: Youtube/ Blavatnik School of Government

Zhengxiong Li, asistent de profesie în informatică și inginerie la Universitatea Colorado Denver

Există posibilitatea ca un astfel de sistem să se manifeste până la sfârșitul anului 2026?

Potrivit Anthropic, dacă modelele AI de dimensiuni reduse progresează la ritmul observat până în prezent, ar putea dobândi abilitățile de autoreplicare autonomă până la sfârșitul anului. Cu toate acestea, compania nu a reușit încă să demonstreze că întregul proces funcționează în mod fiabil într-un mediu real, necontrolat.

Jessica Ji, cercetătoare la Centrul pentru Securitate și Tehnologii Emergente al Universității Georgetown, consideră că scenariul trebuie analizat ca o posibilitate, nu ca o predicție sigură. Potrivit acesteia, evoluțiile recente ale inteligenței artificiale justifică studierea riscului, dar probabilitatea apariției unui asemenea sistem rămâne necunoscută.

Mesajul din partea Anthropic face parte dintr-o succesiune de avertismente care evidențiază pericolele asociate cu dezvoltarea accelerată a AI. În luna precedentă, Dario Amodei, directorul general al companiei, a menționat că, în anul următor sau chiar mai devreme, un sistem AI ar putea prelua controlul asupra unei rețele permanente de dispozitive compromise, răspândită pe internet.

COMENTARII / 0