Inteligența artificială este integrată tot mai rapid în armatele lumii, de la drone și supraveghere până la identificarea țintelor și sprijinirea deciziilor militare. Experții avertizează însă că aceeași tehnologie care poate oferi un avantaj strategic ar putea accelera conflictele, alimenta dezinformarea sau chiar crește riscul unei escaladări nucleare, arată The Independent într-o analiză.
Anthropic a emis, în primele zile ale lunii, un avertisment alarmant: există șanse de 10% ca inteligența artificială să anuleze existența umană. Această estimare a fost ulterior contestată de experți care susțin că nu există o analiză suficient de solidă pentru a susține o astfel de cifră.
Într-o postare pe platforma Truth Social, Donald Trump a subliniat cu claritate importanța esențială a inteligenței artificiale. El a spus:
Citește șiSerghei Lavrov atacă Europa de la tribuna ONU: Rusia își va atinge obiectivele în Ucraina „indiferent de circumstanțe”
„Cine câștigă în domeniul IA, câștigă totul!”
Chiar dacă nu a făcut referire directă la război, Trump a susținut că Statele Unite trebuie să rămână la capătul dezvoltării acestei tehnologii, subiect despre care a vorbit și în termenii unei viitoare „superinteligențe”.
Experții avertizează de mulți ani despre pericolele inteligenței artificiale, iar expansiunea rapidă a acestei tehnologii generează o întrebare din ce în ce mai crucială: cum se manifestă efectele atunci când sistemele de IA sunt încorporate în structurile militare?
„Inteligența artificială este integrată în forțele armate din întreaga lume într-un ritm din ce în ce mai rapid, întrucât multe guverne o consideră un factor decisiv pentru competitivitatea lor militară”, a declarat Georgia Cole, cercetătoare în cadrul Programului de Securitate Internațională al Chatham House, pentru The Independent.
Conform acestei surse, tehnologia se extinde în numeroase domenii militare, acoperind monitorizarea terenului de luptă, instruirea soldaților, supravegherea, recunoașterea, identificarea țintelor și proiectarea vehiculelor fără pilot.
Vehicule aeriene autonome și detectarea țintelor
În prezent, există cazuri documentate în care armament autonom a intervenit în lupte. Rusia a folosit o dronă complet autonomă, iar rapoarte indică că aceasta a provocat moartea a trei civili ucraineni.
În 2024, au fost raportate informații care, potrivit unor surse, indică faptul că armata israeliană a activat în Gaza un sistem bazat pe inteligență artificială numit „Lavender”, ca reacție la atacurile Hamas din 7 octombrie.
Forțele de Apărare ale Israelului (IDF) au refuzat să confirme că ar folosi inteligența artificială pentru a crea ținte militare verificate. Într-o comunicare adresată publicației The Guardian, IDF a menționat că „Lavender” a fost aplicat pentru a corela diferite surse de date și pentru a genera informații actualizate privind agenții militari ai grupurilor teroriste.
IDF a susținut că sistemele informatice servesc ca instrumente pentru analiști și că decizia de identificare a țintelor nu este preluată de un sistem de inteligență artificială.
În același timp, recurgerea la modelele de IA de către forțele implicate în lupte a devenit o problemă aparte.
Conform unui document de securitate emis de Anthropic, persoane din Yemen, localizate în regiuni sub controlul rebeliilor Houthi, au căutat să exploateze Claude pentru a primi detalii despre rachete balistice. În aceeași analiză se menționează și eforturi ale hackerilor ruși de a aplica această tehnologie în atacuri asupra grupurilor din Ucraina.
Pericolul unui conflict nuclear
Cele mai periculoase situații se manifestă atunci când IA este integrată în luarea deciziilor militare și are capacitatea de a modifica răspunsurile la crize.
Mai multe cercetări s-au concentrat pe comportamentul modelelor de inteligență artificială în scenarii de război. În februarie, un studiu efectuat de King’s College London a relevat că, în 95% din crizele simulate, modelele testate optau pentru opțiuni ce implicau semnale nucleare.
Universitatea Stanford a desfășurat în 2024 un alt studiu care a examinat, de asemenea, pericolele legate de utilizarea inteligenței artificiale în contextul conflictelor.
Georgia Cole subliniază că un sistem AI ar putea interpreta incorect datele existente și ar putea facilita o decizie de escaladare.
„Ne-am putea imagina o situație în care o IA percepe în mod eronat semne ale unui atac nuclear, determinând un lider să autorizeze o ripostă nucleară împotriva unui atac imaginar”, spune cercetătoarea.
O astfel de situație s-ar putea desfășura cu o rapiditate extremă.
Țara vizată ar putea riposta înainte de a-și da seama că nu este atacată. Avem deja exemple din Războiul Rece de situații în care s-a evitat la limită un conflict din cauza erorilor sau a inexactităților din sistemele de avertizare timpurie.
explică ea.
Problema ar fi amplificată de viteza cu care operează sistemele automatizate. „IA reduce atât transparența acestor sisteme, cât și timpul disponibil pentru ca factorii de decizie să reacționeze”, afirmă Cole.
„Roboții ucigași” și armele biologice
Scenariile extreme nu se restrânge exclusiv la armamentul nuclear. Un alt pericol pe care experții îl subliniază este utilizarea IA pentru a crea arme biologice sau agenți patogeni deosebit de periculoși.
Anthropic a alertat că
„utilizarea abuzivă în scopuri biologice reprezintă unul dintre cele mai grave riscuri ale modelelor de IA de ultimă generație”.
Compania nu a indicat ce entități sau state ar putea fi implicate în astfel de încercări, susținând că nu poate stabili cu certitudine scopul întrebărilor puse modelelor sale.
Yasir Atalan, care deține titlul de director adjunct și activează ca cercetător în domeniul datelor la Futures Lab, subunitate a Center for Strategic and International Studies (CSIS), evidențiază un alt element: impactul pe care recomandările generate de IA îl pot avea asupra decidenților în timpul unui război.
Echipa lucrează la un proiect în care ofițerii militari au analizat comportamentele unor modele de inteligență artificială. În cadrul testului, unii dintre participanți au primit sugestii ce încurajau escaladarea, în timp ce alții au beneficiat de opțiuni care nu susțineau escaladarea.
„Ne-am dat seama că acest lucru a schimbat efectiv modul în care oamenii iau decizii”, a spus Atalan. Potrivit acestuia, atunci când oamenii primesc de la un model o recomandare care favorizează escaladarea, aceasta poate influența decizia finală.
Atalan neagă estimarea care afirmă că 10% șanse există ca inteligența artificială să anihileze umanitatea, calificând-o ca fiind o „pistă falsă” nefondată de o analiză credibilă.
Printre cele mai extreme ipoteze se numără situația în care „roboții ucigași” ar dobândi autonomie și s-ar răzbuna asupra oamenilor. Atalan consideră că aceste scenarii apocaliptice trebuie analizate cu prudență.
Dezinformarea, o armă deja disponibilă
Unele dintre pericolele legate de IA nu mai sunt doar teoretice; ele se manifestă deja în mediul informațional. Actorii statali și nestatali pot exploata IA pentru a produce volume uriașe de materiale false, pentru a fabrica imagini și clipuri video, sau pentru a controla conturi fictive.
Yasir Atalan avertizează că modelele de inteligență artificială ar putea fi folosite în campanii de dezinformare și manipulare a informațiilor.
Potrivit lui, clipurile Lego create cu ajutorul inteligenței artificiale au fost integrate în planul de comunicare și de război psihologic al Iranului.
„Nu ne trece prin minte că ar trebui să evaluăm modelele de IA pentru a vedea dacă vor accepta o decizie de a se implica într-o campanie de dezinformare”, Atalan afirmă.
El atrage atenția și asupra riscului ca IA să îi determine pe oameni să participe la astfel de operațiuni. „Acest lucru se întâmplă deja în spațiul digital, unde se creează conturi false.”
Ținta următoare: infrastructura critică
O altă posibilitate examinată de specialiști implică aplicarea agenților de inteligență artificială pentru a ataca infrastructura critică.
Georgia Cole avertizează că aceste sisteme ar putea fi exploatate pentru atacuri cibernetice majore asupra infrastructurii critice, având capacitatea de a genera victime.
În același timp, IA ar putea fi valorificată pentru proiectarea unor armament special conceput pentru război asimetric.
Conform cercetătoarei, ultimele declarații ale dezvoltatorilor de inteligență artificială indică faptul că unele dintre aceste abilități ar putea fi puse la dispoziție într-un interval de timp destul de scurt.
Potrivit lui Atalan, există actori externi care pot supune modelele americane de IA la atacuri sau manipulări, inclusiv prin furtul de date sau prin metode concepute pentru a forța un sistem să dezvăluie informații.
Problema nu constă exclusiv în IA, ci în lipsa controlului.
Chiar și în contextul unor scenarii extreme, doi experți menționează că esența problemei nu constă în prezența inteligenței artificiale, ci în modul în care aceasta este implementată și controlată.
„Cele mai grave consecințe apar atunci când există modele necontrolate care se integrează în mod semnificativ în sistemele de comandă și control”, spune Atalan.
Georgia Cole consideră că este indispensabilă implementarea unor măsuri de protecție și efectuarea unor evaluări riguroase pentru a stabili în ce măsură inteligența artificială poate optimiza procesul decizional militar și în ce situații ar putea genera un efect contrar.
„Problema nu este neapărat utilizarea IA în sine, ci absența măsurilor de protecție sau a transparenței cu privire la modul în care este folosită IA, precum și lipsa unei analize serioase a domeniilor în care IA îmbunătățește cu adevărat procesul de luare a deciziilor militare, față de cele în care este dăunătoare”, afirmă cercetătoarea.
Reglementarea armelor autonome, în urmă
La scară globală, ONU organizează dialoguri despre controlul armelor letale autonome. Totuși, instaurarea unui acord obligatoriu se prevede ca fiind complicată, iar numeroase forțe armate se opun limitărilor legale obligatorii.
În același timp, integrarea inteligenței artificiale în domeniul militar nu încetează.
„În același timp, integrarea se intensifică și este puțin probabil ca țările să renunțe voluntar (sau să aibă capacitatea de a o face) la automatizarea forțelor lor armate”, spune Cole.
În lipsa unor reguli comune, următorii ani ar putea aduce o autonomie mai mare a sistemelor militare, un proces decizional tot mai rapid și o prezență mai mare a inteligenței artificiale în conflictele armate.
Iar întrebarea nu mai se reduce la a determina cine va crea cea mai inteligență artificială, ci la cât control vor păstra oamenii când aceste sisteme vor joaca un rol direct în război.
COMENTARII / 0