Ce sunt „viermii IA” cu capacitate de autoreplicare și de ce Anthropic își face griji în legătură cu aceștia. „Viermi” vs „Viruși”

Alarmele referitoare la potențialele acțiuni ale inteligenței artificiale în viitor – împreună cu rapoarte alarmante privind realizările deja obținute – sunt publicate atât de repede...

Alarmele referitoare la potențialele acțiuni ale inteligenței artificiale în viitor – împreună cu rapoarte alarmante privind realizările deja obținute – sunt publicate atât de repede încât chiar și experții în securitate întâmpină dificultăți în a

În ciuda altor aspecte, un raport emis săptămâna precedentă de grupul de cercetare ofensivă al Anthropic a captat atenția prin prezentarea unei amenințări noi și palpabile, fără a conține trăsături umane sau speculații apocaliptice, subliniază The Guardian.

„Echipa roșie”, așa cum sunt numiți acești testeri interni, a declarat că a creat un program de IA rău intenționat care s-a răspândit în mod autonom prin televizoarele „inteligente” conectate la internet și ar putea face același lucru în interiorul altor dispozitive obișnuite. Deși mașinile care rulează IA au nevoie, de obicei, de o putere de calcul considerabilă, cercetătorii au afirmat că programul lor și-a împărțit părți ale sale între 15 televizoare și a reușit totuși să funcționeze folosind o mică parte din puterea fiecăruia.

Citește șiMuşat & Asociaţii SCA deschide un nou capitol: inteligența artificială juridică Harvey intră în practica societății

De la IA până la Harry Potter

În afară de amintirea horcruxurilor ce păstrau porțiuni din sufletul Lordului Voldemort în viață, în diferite artefacte ale seriei Harry Potter, raportul a stârnit îngrijorare la rândul unor specialiști. Securitatea, în general, slabă a televizoarelor inteligente și a multor alte dispozitive din „Internetul lucrurilor”, ar fi extrem de dificil de remediat, chiar și printr-un efort concertat.

„Este un motiv de îngrijorare, la fel ca orice alt val de atacuri cibernetice. Trebuie să atenuăm posibilele efecte”, a declarat Joshua Saxe, care a condus dezvoltarea eforturilor Meta în domeniul securității IA. „Mă îngrijorează în acest moment faptul că membrii comunității de securitate cibernetică nu iau aceste riscuri reale atât de în serios pe cât ar trebui.”

Daune. Viermi „istorici”

Daunele provocate de astfel de „viermi IA” ar putea fi uimitor de mari. Virusii informatici care se autoreplică, care nu au nevoie să păcălească un om pentru a se propaga, sunt cunoscuți sub numele de viermi, iar viermii din trecut au provocat unele dintre cele mai grave ravagii din istoria internetului.

Printre aceștia se numără viermele Morris din 1988, care a apărut înainte ca internetul să devină accesibil publicului larg, când un student la masterat a lansat un program care a profitat de diverse vulnerabilități software și parole slabe, copiindu-se atât de rapid încât multe calculatoare infectate au încetinit până la blocare. Statele Unite și Israelul au introdus viermii în spionajul internațional cu ajutorul viermelui Stuxnet, care a acționat în secret la sfârșitul anilor 2000, sabotând centrifugele nucleare iraniene. Alți viermi, precum NotPetya din Rusia și WannaCry, atribuit Coreei de Nord, au provocat pagube în valoare de zeci de miliarde de dolari la nivel mondial.

Mulți dintre cei mai periculoși viruși cibernetici de pe glob s-au construit pe defecte cunoscute pe care utilizatorii de echipamente nu le-au corectat, uneori chiar și la câteva luni de la lansarea actualizărilor. Echipa Anthropic a estimat că un virus similar cu cel dezvoltat de aceștia ar putea opera în felul călător și ar fi mai greu de oprit, pentru că aparatele inteligente primesc actualizări mai rar decât telefoanele mobile sau laptopurile. Mai grav, aceștia au formulat ipoteza că

Viermi vs Viruși

Ceea ce diferențiază viermii bazați pe IA de virușii obișnuiți care se reproduc este faptul că modelele de IA pot învăța pe parcurs, a afirmat Ariel Herbert-Voss, unul dintre primii experți în securitate de la OpenAI, care conduce acum startup-ul de securitate IA RunSybil. Infrastructura existentă de securitate cibernetică nu este pregătită pentru proliferarea unor astfel de amenințări, a spus Herbert-Voss. „Trebuie să le oferim echipelor noastre de securitate condiții mai bune. Trebuie să le punem la dispoziție mai multe resurse pentru a remedia problemele.”

Scopuri benefice

Chris Inglis, fost director adjunct al Agenției Naționale de Securitate (NSA) și anterior director național de securitate cibernetică în cadrul administrației Biden la Casa Albă, a sugerat că viermii ar putea fi utilizați și în scopuri pozitive.

„Întrebarea dacă viermii IA sunt plauzibili a fost lămurită de mai multe incidente majore din ultimele șase luni”, a declarat Inglis printr-un mesaj digital. „Întrebarea mai pertinentă este cum îi vom folosi, cum îi vom contracara și/sau cum îi vom combina cu alte tehnologii emergente.”

Anthropic a susținut că un virus AI de succes trebuie să funcționeze mai bine pe echipamente cu performanțe reduse decât se poate realiza în prezent, însă a precizat că tendințele curente vor face acest lucru posibil până la sfârșitul anului. Studiul lor se bazează pe un articol publicat de specialiștii de la Universitatea din Toronto cu câteva luni în urmă, unde s-a demonstrat că un calculator de dimensiuni obișnuite a fost infectat și a reușit să se răspândească către dispozitive similare mai repede decât un virus de televiziune.

Măsuri de securitate

„Capacitățile s-au dezvoltat foarte rapid”, a spus coautorul și doctorandul din Toronto, Jonas Guan.

Guan și alți specialiști au susținut că, din perspectiva practică, un „vierme” alimentat de inteligență artificială nu ar trebui să ocupe poziția de top în lista temerilor asociate cu IA. Versiunea Anthropic avansează într-un ritm foarte lent, a declarat Guan, iar aceste „vierme” prezintă comportamente previzibile și detectabile, fiind susceptibile la blocări la mai multe niveluri. Măsurile de bază de securitate, cum ar fi utilizarea parolelor robuste și a autentificării în doi pași, ar putea neutraliza majoritatea acestor „vierme” și alte atacuri cibernetice, au precizat experții.

„Nimic din toate acestea nu este cu adevărat fezabil sau semnificativ”, a declarat Juan Andres Guerrero-Saade, vicepreședinte de cercetare la firma de securitate SentinelOne. „Este o acțiune de hacking ingenioasă, care capătă o amplificare mult mai mare în serviciul narațiunilor apocaliptice ridicole care sugerează că modelele au o minte și o voință proprie.”

Furtuna IA

„Afirmația că o mare parte din toate acestea ține de marketing este corectă, dar realitatea depășește cu mult orice campanie de relații publice”, a declarat Gadi Evron, care organizează luna aceasta la San Francisco o conferință despre securitatea IA, intitulată „Unprompted”. „Indiferent de afirmațiile laboratoarelor, acestea nu ne avertizează suficient. Trebuie să înțelegem că nimeni nu poate opri furtuna IA.”

COMENTARII / 0