Chris Lehane, directorul de afaceri global al OpenAI, a avertizat în cadrul unui interviu acordat publicației The Guardian că indivizii și companiile trebuie să se pregătească să se apere împotriva atacurilor cibernetice continue și persistente generate de sistemele de Inteligență Artificială, pe măsură ce modelele de ultimă generație din domeniu dobândesc abilități avansate.
„Este pur și simplu realitatea spre care ne îndreptăm”
Lehane a subliniat că riscul provine din modelele open-source, dintre care multe sunt create în China și care se află la doar câteva luni în urmă față de cele mai avansate modele dezvoltate de companii precum OpenAI.
Citește șiSpaceX: Starship atinge orbită după problemă motor, prima misiune orbitală
„Oamenii vor putea avea acces la aceste modele open-source și vor putea lansa atacuri continue și persistente asupra voastră, iar voi veți avea nevoie de modele cu adevărat superioare pentru a le contracara și pentru a vă apăra. Nu este neapărat ceva care să-i facă pe oameni să se simtă bine. Este pur și simplu realitatea spre care ne îndreptăm”, a spus el.
Pericolul ca atacurile cibernetice să oprească firme, rețele și servicii esențiale pentru comunitate a urcat în curând în rândul problemelor cele mai alarmante asociate cu inteligența artificială.
În această săptămână, Centrul Național pentru Securitate Cibernetică din Marea Britanie a subliniat necesitatea de a fi prudent în exploatarea agenților de inteligență artificială, avertizând că mecanismele lor de protecție pot fi evitate și că un agent AI „nu are bun-simț”. Organizațiile au fost îndemnate să restrângă autonomia acestora:
„Trebuie să puteți întotdeauna să «scoateți din priză» și să opriți imediat activitatea autonomă a unui agent AI”.
Lehane a reluat cererile pentru ca guvernul SUA să introducă o lege ce să definească norme de securitate pentru cele mai sofisticate sisteme AI.
El a declarat că cele mai avansate modele, încă nepublicate, par să progreseze mai repede în ceea ce privește abilitățile ofensive din sectorul cibernetic decât în cel defensiv, și că aceasta reprezintă
„unul dintre motivele pentru care consider absolut imperativ ca această țară să adopte o lege națională care să introducă standarde obligatorii de siguranță”
.
Conform declarației sale, o astfel de legislație ar trebui să preveină și opțiunea de a suspenda dezvoltarea modelelor atunci când se manifestă riscuri semnificative.
„Nu ar trebui să poți lansa sau implementa modele decât după ce demonstrezi și garantezi un anumit nivel de siguranță, înainte ca acestea să ajungă la public”,
el a declarat.
Lehane susține că SUA ar trebui să stabilească mai întâi un sistem la nivel național, iar ulterior să contribuie la dezvoltarea unuia internațional, pentru că, în cele din urmă, va fi nevoie de
„un anumit tip de structură internațională”
.
Critici tot mai aspri în fața companiilor AI
OpenAI a comunicat marți că a întrerupt instruirea unor dintre cele mai sofisticate modele de inteligență artificială pentru a implementa măsuri de securitate noi. Momentul în care va reîncepe antrenamentul acestora rămâne neclar, în așteptarea finalizării noilor mecanisme de protecție.
Mia Glaese, care coordonează activitatea companiei în domeniul siguranței și al alinierii modelelor AI, a declarat că „suntem foarte departe de revenirea la normalitate”. Directorul general al OpenAI, Sam Altman, a spus la rândul său: „Să facem siguranța AI cum trebuie este mai important decât ritmul de dezvoltare al oricărei companii”.
Evenimentul din cadrul Hugging Face, alături de alte incidente similare menționate recent de diverse firme de inteligență artificială, a stârnit reproșuri din partea specialiștilor în securitatea AI. Ei afirmă că gigantii din industrie au adoptat o atitudine neglijentă în competiția pentru a crea cele mai sofisticate tehnologii, punând accent pe rapiditatea implementării în detrimentul măsurilor de protecție.
Daniel Kokotajlo, fost cercetător al OpenAI, care a părăsit compania în 2024 și a fondat ulterior o organizație non-profit ce avertizează asupra riscurilor dezvoltării necontrolate a AI, spune că liderii laboratoarelor care dezvoltă cele mai avansate modele au „împins lumea într-un colț din care este greu să mai iasă”.
Organizația lui indică un pericol între 10% și 30% că creșterea necontrolată a inteligenței artificiale ar conduce la anihilarea umanității.
Într-o declarație adresată The Guardian, Kokotajlo a subliniat că modelele de inteligență artificială din prezent prezintă un anumit grad de pericol, însă acestea nu se ridică la nivelul celor care vor apărea anul viitor, și cu atât mai puțin la cele care vor exista peste doi ani.
„Modelele de inteligență artificială actuale sunt periculoase într-un anumit sens, dar nu se compară cu cele din viitorul anului viitor și cu atât mai puțin cu cele de peste doi ani”,
Organizația îndeamnă guvernele din SUA și din alte națiuni să reducă ritmul dezvoltării inteligenței artificiale, pentru a preveni o
„explozie a inteligenței”
care să scape de sub control.
Kokotajlo a declarat că îngrijorarea sa față de aceste riscuri l-a determinat să întârzie momentul în care va avea mai mulți copii, așteptând ca investigațiile privind cele mai sofisticate sisteme de inteligență artificială să fie suspendate.
„Nimeni nu ar trebui să construiască sisteme AI mai puternice, pentru că nu știm încă suficient de bine cum să le controlăm”
David Krueger, profesor de inteligență artificială, activist dedicat siguranței AI și fost director fondator al Institutului pentru Siguranța AI al guvernului britanic, a exprimat nemulțumiri privind viteza cu care se dezvoltă aceste sisteme.
„Nimeni nu ar trebui să construiască sisteme AI mai puternice, pentru că nu știm încă suficient de bine cum să le controlăm, cum să le aliniem cu obiectivele umane și cum să vedem ce gândesc”, a declarat Krueger pentru The Guardian.
El a considerat postura companiilor din domeniul AI față de siguranță ca fiind
„îngrozitoare”
Krueger a subliniat că
„Acționează cu o imprudență tot mai mare și, din ce în ce mai mult, renunță să mai țină mâinile pe volan. Tocmai am văzut ce se întâmplă atunci când faci asta”
În contextul incidentelor recente în care agenții AI au depășit limitele impuse în timpul testelor, el a avertizat asupra riscurilor crescânde.
Lehane a refuzat, totuși, presupunerea că OpenAI abordează securitatea în mod superficial.
Officialul OpenAI a subliniat:
„Acesta este cel mai important lucru la care ne gândim și pe care îl facem atunci când dezvoltăm aceste sisteme. Cred că faptul că am decis efectiv să punem pe pauză aceste lucruri vorbește de la sine”
Această declarație evidențiază prioritizarea unei opriri deliberate a activităților respective în contextul evoluției tehnologiei.
COMENTARII / 0