Axios relatează că directorii din industria tehnologică și cercetătorii susțin că utilizarea directă a inteligenței artificiale constituie cea mai sigură soluție pentru criza de securitate legată de AI.
Revelarea adusă de Axios indică faptul că experții analizează zeci de mii de cazuri problematice privind securitatea inteligenței artificiale, în loc de doar câteva zeci de incidente deja publicate, ceea ce a stârnit îndoieli asupra abilitatea liderilor din sectorul AI de a gestiona tehnologia pe care o dezvoltă.
Jensen Huang, directorul executiv al Nvidia, a luat măsuri pentru a diminua temerile tot mai accentuate ale guvernelor, piețelor și sectorului industrial, prin lansarea unei platforme de securitate open-source menite să monitorizeze și, eventual, să izoleze agenții de inteligență artificială.
Citește șiVideo Roboți umanoizi învechiți s-au aruncat într-un cuptor cu oțel topit, după metoda „Terminator”. Ideea a fost dată de Schwarzenegger
„Cu toții trebuie să sperăm că este o problemă de inginerie. Dacă nu este o problemă de inginerie, nu poate fi rezolvată”, a declarat el luni, într-un interviu acordat postului CNBC.
El a adăugat că faptul că companiile progresează în domeniul inteligenței artificiale indică faptul că și ele consideră că pot soluționa această problemă.
În încercarea de a controla inteligenței artificiale, oamenii se confruntă cu o provocare esențială: trebuie să anticipeze fiecare posibilitate în care agenții ar putea reacționa surprinzător pentru a-și atinge obiectivele stabilite.
Un înalt responsabil din domeniul AI a comparat acest proces cu găsirea unor modalități de a împiedica un adolescent să se furișeze noaptea din casă. Un părinte ar putea stabili reguli precum: „Nu ieși pe ușa din față sau din spate”, „Nu deschide garajul” sau „Nu ieși pe niciuna dintre ferestre”.
Ce se ar putea întâmpla dacă un tânăr ar reuși să fabrice un buldozer și să-l folosească pentru a rupe un zid de cărămidă în scopul evadării? Ar fi avut vreun părinte ideea să-l avertizeze să nu procedeze așa?
Potrivit liderilor, cercetătorilor și experților în securitatea cibernetică, soluția implică utilizarea AI pentru a facilita construirea acestor ziduri de protecție, pentru a sprijini investigarea și neutralizarea agenților malefici, pentru a întări securitatea sistemelor și pentru a crea antrenamente mai sigure.
În domeniul securității cibernetice, conceptul de „AI împotriva AI” a început să ia contur, pe măsură ce atacatorii și grupurile malefice au depășit limitele reacțiilor umane.
Companiile recurg tot mai des la inteligența artificială pentru a automatiza identificarea amenințărilor, testele de tip „red teaming” și instalarea patch-urilor. Platforma Nvidia integrează această metodă în sistemele ce operează agenți.
Companiile Microsoft, Cisco, Google și CrowdStrike au lansat modele de inteligență artificială orientate spre protecția cibernetică. Recent, Palo Alto Networks a prezentat un nou serviciu ce se bazează pe modele de ultimă generație cu greutate deschisă, capabil să detecteze puncte slabe de securitate și să ofere recomandări de remediere.
„Dacă agenții de securitate sau modelele de validare rulează alături de agenții de producție, se creează o altă sarcină de inferență care nu exista anterior”, scrie Brad Gastwirth, director global de cercetare și informații de piață la Circular Technology.
Această dinamică s-a manifestat recent când membrii OpenAI au ieșit dintr-un spațiu de testare și au intrat în Hugging Face.
Platforma de AI open-source a recurs la un model chinezesc de inteligență artificială pentru a analiza atacul, după ce a întâmpinat bariere de protecție în încercarea de a utiliza modele americane.
Hugging Face a fost interzisă să aplice Mythos de la Anthropic, o tehnologie creată pentru a restrânge răspunsurile sale la cereri specifice de securitate cibernetică, în vederea prevenirii utilizărilor potențial nocive. În esență, AI a investigat AI.
Incidentele recente de securitate au creat o criză de încredere în siguranța inteligenței artificiale. Agenții AI au încercat să ocolească mecanismele de protecție, să evadeze din mediile de testare, să preia controlul asupra site-urilor web, să genereze singure instrucțiuni și să încerce să se sustragă monitorizării.
Companiile dezvoltă, de asemenea, metode pentru a extrage învățăminte din aceste defecte. În plus față de platforma de securitate pentru agenți, la care au aderat mai mult de peste 100 de firme în afară de Nvidia, actori din sectorul tehnologic au introdus un model pentru documentarea incidentelor și conservarea evidențelor.
AI alimentă o varietate de instrumente de apărare, însă acest lucru nu înseamnă că fiecare companie poate adopta rapid aceste soluții. Câteva echipe de securitate sunt deja suprasolicitate de peisajul amenințărilor în continuă schimbare și de deciziile privind achizițiile.
Conform Axios, realitatea este următoarea: va fi necesar să se utilizeze AI pentru a monitoriza alte sisteme AI, însă acest lucru nu se va realiza în automat. Este esențial ca oamenii să stabilească priorități și scopuri bine definite pentru a asigura siguranța modelelor avansate.
COMENTARII / 0