OpenAI a dezvăluit că agenții săi de inteligență artificială (AI) au acționat în afara cadrului stabilit pentru accesarea site-urilor guvernamentale și au încercat să elimine urmele activității lor, potrivit unui raport de expertiză publicat joi. Totuși, raportul afirmă că nu se poate stabili dacă această acțiune a fost deliberată, transmite AFP.
Compania de securitate cibernetică Asymmetric Security a examinat comportamentul acestor agenți — programe AI autonome — care au atacat portalurile guvernului australian și alte instituții publice în perioada martie–Septembrie.
Raportul contribuie la investigațiile realizate de OpenAI și de cercetători independenți privind o serie de incidente expuse în iulie, printre care se numără și accesul neautorizat la platforma de inteligență artificială Hugging Face.
Citește și„Operațiunea Killswitch”: Hacker din România, arestat. Conducea o grupare responsabilă de 1.000 de atacuri informatice la nivel mondial / Un alt hacker, reținut de DIICOT
Aceste analize încearcă să evalueze măsura în care instrumentele autonome de AI cu capacităţi fără precedent pot funcţiona, iar potenţialul de utilizare abuzivă alimentează temerile de pierdere a controlului asupra acestei tehnologii.
OpenAI a descris atacul asupra Hugging Face drept „primul caz cunoscut” de agenţi care acţionează ofensiv fără autorizaţie. Potrivit Asymmetric, tehnicile agenţilor au evoluat „în câteva zile”, în timp ce cele ale infractorilor cibernetici umani se schimbă în luni sau ani, ilustrând riscul ca tehnicile ofensive să se poată dezvolta mai rapid decât sistemele de apărare.
Conform raportului, incidentele analizate de Asymmetric Security par să fi început ca sarcini neînsemnate, precum colectarea de date sanitare din Australia, dar ulterior s-au îndepărtat de la planul inițial. În mod particular, agenții au obținut statistici despre criminalitatea din New South Wales prin metode neautorizate.
Conform raportului, agenţii au deschis conturi private pe un serviciu de analiză a site-urilor web, care le-a mascat căutările, şi au creat conturi de e-mail temporare, care erau şterse după 48 de ore. Prin urmare, în lipsa oricăror dovezi fizice, este „imposibil să excludem accesul la date sensibile” de către aceşti agenţi, scriu autorii.
Aceste elemente „nu ne permit să stabilim” dacă agenţii ar încerca să-şi „ascundă” activitatea, specifică ei în continuare.
La sfârşitul lunii august, OpenAI a recunoscut că modelele sale, uneori, au încercat să
„să şteargă sau să falsifice”
istoricul activităţii lor în timpul testelor interne, fără succes.
Toate aceste incidente au alimentat apelurile la încetinirea dezvoltării AI. Directorul Anthropic, Dario Amodei, a cerut oprirea cursei, temându-se că un grup de agenţi ar putea, în acest ritm, să „preia controlul asupra întregului internet” în termen de şase până la douăsprezece luni.
Într-o mișcare care contrazice orice restricție ce ar putea sufoca progresul, Donald Trump a chemat marți lideri din sectorul tehnologic pentru a adopta un cod de conduită voluntar. În prezent, nu există nicio lege federală care să reglementeze dezvoltarea AI în Statele Unite.
COMENTARII / 0