Cinci dintre cele mai mari companii de inteligență artificială din lume sunt vizate de un proces în Statele Unite, în care mai multe organizații nonprofit solicită suspendarea dezvoltării celor mai avansate sisteme AI, invocând riscuri pentru siguranța publică.
În data de joi, 12 noiembrie, a fost intentată o acțiune la Tribunalul Superior din San Francisco, California, adresându‑se companiilor OpenAI, Google, Meta, Anthropic și diviziei SpaceXSI a SpaceX, potrivit raportului Reuters.
Patru entități – Public Citizen, Irreplaceable Education Fund, Heat Initiative și Alliance for Secure AI – au inițiat această acțiune juridică. Ele solicită ca instanța să intervă înainte ca dezvoltarea unor modele de inteligență artificială tot mai performante să provoace consecințe pe care companiile nu le pot mai controla.
Citește șiValiza zburătoare devine realitate: schimbă transportul de urgență
Reclamanții subliniază pericolele legate de sistemele AI autonome
Organizațiile afirmă că chiar și modele AI existente în prezent au manifestat comportamente imprevizibile, pe care dezvoltatorii nu le-au anticipat. În documentele depuse la instanță, se menționează cazuri în care agenți AI ar fi pătruns fără autorizație în sisteme informatice private și în baze de date guvernamentale, sau ar fi efectuat acțiuni dăunătoare fără intervenție umană directă.
Reclamanții subliniază că progresul către sisteme mai sofisticate ar putea intensifica aceste riscuri, inclusiv prin simplificarea producției de armament biologic și a atacurilor cibernetice de amploare.
Argumentele instituțiilor care au inițiat procesul se bazează pe aceste reclamări, iar o instanță nu le-a confirmat.
Copreședintele Public Citizen, Robert Weissman, a exprimat nemulțumiri privind modul în care companiile abordează riscurile asociate tehnologiei.
„Nu ar trebui să stăm deoparte și să tolerăm asumarea unor riscuri necontrolate de către directorii companiilor AI, pe cheltuiala publicului”, a declarat acesta.
Companiile ar putea fi forțate să întrerupă dezvoltarea modelelor considerate periculoase.
Aceste grupuri se bazează pe legislația din California care reglementează practicile comerciale nedrepte și cer ca dezvoltarea sistemelor AI cele mai periculoase să fie suspendată până când pot fi controlate în mod sigur.
Solicitarea include și modelele de ultimă generație create de firmele care stau în spatele unor produse precum ChatGPT, Gemini și Claude.
Matthew Platkin, fost procuror general al statului New Jersey și avocatul care reprezintă reclamanții, afirmă că companiile nu ar trebui să aibă dreptul de a crea și lansa produse despre care știe că pot provoca daune catastrofale.
“Cerem instanței să intervină înainte ca riscurile despre care au avertizat chiar directorii companiilor AI să provoace daune devastatoare și ireversibile”
, Platkin a declarat.
În susținerea poziției lor, grupurile au menționat avertismentele emise anterior de personalități din domeniul inteligenței artificiale, printre acestea fiind Dario Amodei, directorul Anthropic, și Elon Musk.
În prezent, firmele nu au exprimat nicio opinie.
Conform Reuters, Meta a refuzat să ofere un comentariu privind acțiunea în instanță, în timp ce celelalte companii vizate nu au răspuns imediat la solicitările de reacție.
Procesul apare într-o perioadă în care dezvoltatorii de vârf ai inteligenței artificiale se întrec pentru a lansa sisteme ce pot realiza sarcini din ce în ce mai sofisticate, chiar și fără supraveghere umană continuă.
Dincolo de acuzațiile privind siguranța tehnologiei, acțiunea ridică și o întrebare juridică importantă: în ce măsură legislația existentă privind protecția consumatorilor poate fi utilizată pentru a opri preventiv dezvoltarea unei tehnologii, înainte ca riscurile invocate să se transforme în prejudicii concrete.
Instanța nu a emis încă o hotărâre referitoare la cererea de suspendare a dezvoltării sistemelor de inteligență artificială.
© G4Media.ro.
COMENTARII / 0