Directorii principalilor furnizori din domeniul inteligenței artificiale, inclusiv Anthropic și OpenAI, examinează în mod confidențial mai multe posibile situații privind revolte la nivel public și politic ca urmare a unui incident catastrofal asociat cu inteligența artificială, conform Axios.
Specialiștii de top din AI prevăd un incident major, probabil un atac cibernetic, care ar interzice accesul la serviciile financiare, la conexiunea la internet sau chiar la energia electrică și apa.
Primul exemplu de prejudiciu semnificativ în lumea reală cauzat de o inteligență artificială nesigură ar determina un public deja circumspect să se întoarcă și mai mult împotriva tehnologiei și a liderilor acesteia – inclusiv a lui Dario Amodei, șeful Anthropic, și a lui Sam Altman, șeful OpenAI -, precum și a președintelui american Donald Trump, pentru reticența sa de a reglementa acest domeniu.
Citește șiModelul OpenAI rezolvă sute de probleme nerezolvate: moment istoric
În ciuda faptului că elaborarea scenariilor reprezintă o activitate standard în multe companii și în instituțiile de securitate națională – Pentagonul organizează simulări de război de zeci de ani – diferența constă în faptul că mulți cercetători și lideri de top în domeniul AI susțin că un eveniment major este inevitabil.
„OpenAI desfășoară exerciții de pregătire în cadrul cărora echipele discută și analizează o serie de scenarii potențiale”, a declarat un purtător de cuvânt al companiei, potrivit Axios.
„Aceste scenarii nu sunt considerate inevitabile, ci sunt menite să ne ajute să ne pregătim pentru o varietate de circumstanțe”
el a adăugat.
Anthropic a decis să nu răspundă la întrebări privind subiectul.
Ar putea suferi economia globală.
„Jocul de a atribui vina” va începe indiferent dacă un roi de agenți AI scade sub controlul unui mediu de testare intern sau dacă un actor rău intenționat descoperă modalități neașteptate de a exploata modelele disponibile.
O inițiativă recentă, care a țintit instituții financiare din Coreea de Sud și a raportat încălcări la două bănci, evidențiază daunele pe care le poate provoca o singură persoană.
Un infractor originar din China a utilizat instrumente de inteligență artificială, dezvoltate în aceeași țară, inclusiv DeepSeek, pentru a extrage informații de la peste zece mii de clienți bancari. Conform companiei de securitate cibernetică CrowdStrike, atacatorul a apelat la Claude Code pentru a solicita asistență în identificarea locurilor unde să vândă datele furate.
Principalii lideri din sectorul AI estimează că democrații, care au câștigat teren după alegerile din mijlocul mandatului, vor reacționa rapid pentru a împiedica dezvoltarea AI, dar vor fi confruntați cu provocări semnificative.
Un Congres în vârstă, eclipsat de revoluția AI, ar putea să se descopere depășit de situație.
Pe de altă parte, economia globală este acum strâns legată de dezvoltarea infrastructurii de AI. Încetinirea acestui proces ar putea afecta grav o economie deja fragilă, mai scrie Axios.
Mai multe sisteme de AI pot fi deja obținute fără cost și folosite pentru a cauza daune, o problemă pe care majoritatea experților în securitate cibernetică o consideră soluționabilă exclusiv prin aplicarea AI pentru a contracara inteligența artificială cu intenții malefice.
Pe orizont se apropie un eveniment de importanță majoră.
Știind că reglementarea nu are nicio șansă de a fi adoptată în prezent, conducătorii companiilor AI doresc totuși să modeleze legislația și politicile la care liderii SUA se vor apela după primul eveniment catastrofal.
Mai mulți experți din sectorul AI au declarat pentru Axios că, conform opiniei lor, în intervalul de șase până la 12 luni va avea loc un eveniment de amploare.
Chiar dacă democrații ar controla Camerei Reprezentanților și Senatului, companiile susțin că fragmentarea politică reprezintă norma, chiar și în cadrul Partidului Democrat.
Printre cele mai radicale propuneri ale democraților se numără interzicerea superinteligenței sau suspendarea dezvoltării AI avansate.
Alte inițiative primesc susținere bipartizană și chiar aprobarea unor reprezentanți ai industriei, inclusiv impunerea unui „kill switch” – buton de oprire de urgență – pentru AI avansată.
În același timp, experții au contestat posibilitatea de a suspenda integral sistemele de inteligență artificială.
Axios menționează că, în fața unei crize reale, Washington ar putea renunța la disputele partizanale; un consilier de partid democrat evocă colaborarea de la pandemia COVID și de la criza financiară din 2008.
COMENTARII / 0