New York Times a raportat că un incident cu un drone rusești, controlat de inteligență artificială, care a cauzat moartea a trei persoane în regiunea Zaporojie din Ucraina, a generat o discuție despre cum va arăta războiul atunci când AI este utilizat pe scară largă.
Utilizarea inteligenței artificiale cu auto-țintire în atacul din 6 iulie este primul caz documentat în care au loc decese în rândul civililor cauzate de o dronă rusească echipată cu un astfel de sistem, a declarat Katerina Bondar, cercetător senior la Centrul de Inteligență Artificială Wadhwani din cadrul Centrului pentru Studii Strategice și Internaționale din Washington.
În timp ce se îndrepta către o benzinărie, drona a lovit un zid și s-a deturnat în explozie, generând o ploaie de șrapnel care a ucis pe Tetiana Bubinets, o studentă de 19 ani, precum și pe alte două persoane.
Citește șiAeroportul din capitala Arabiei Saudite atacat de Houthi, zeci rănite
Drona a fost programată de operatori umani să se deplaseze către o benzinărie, dar odată ce se apropia, și-a ales singură ținta exactă – cel mai probabil rezervoare de propan – pe baza antrenamentului său de a recunoaștere a astfel de rezervoare și de a le ataca, au declarat experții și oficialii militari.
Ce reprezintă dronele cu AI?
mii de fotografii pot fi utilizate pentru a pregăti tehnologiile autonome de inteligență artificială să recunoască diferite tipuri de obstacole, precum „râu”, „camion militar” sau „persoană”. Dronelor cu țintire automată le aparțin camerele care le permit să urmărească aceste obiecte cu o precizie superioară celei oferite de un pilot uman.
În contrast cu o dronă care urmează instrucțiuni pas cu pas scrise de un om, un sistem bazat pe inteligență artificială își creează propriile reguli prin detectarea de modele în volume uriașe de date, un proces denumit învățare automată. Acest mecanism îi conferă capacitatea de a face față evenimentelor neprevăzute. În plus, rezultă că nu există un mod de a anticipa cu precizie comportamentul său.
Colonelul Serhii Minaiev, liderul apărării aeriene din Zaporijia, a afirmat că:
„Acesta este un risc pentru întreaga lume”
și a continuat:
„În câțiva ani, vom trăi într-un film Terminator. Nu e o glumă. Mașinile iau decizii de a ataca.”
Înainte ca dronă să devină total autonomă, atât Rusia, cât și Ucraina, integrase deja sisteme de inteligență artificială în numeroase tipuri de drone. În acele configurații anterioare, AI era activată exclusiv în faza cunoscută sub denumirea de „ultima milă” – ultimul pas al atacului, după ce un operator uman de la distanță determinase ținta. O versiune AI complet autonomă elimină necesitatea prelucrării finale a
Nvidia a fost folosit în atacul de la Zaporijie fără a fi criptat, au spus autoritățile ucrainene, ceea ce a permis vizualizarea imaginilor de pe teren încărcate în sistem, facilitând drona să identifice repere vizuale și să păstreze traiectoria. În plus, aceștia au analizat codul, conform declarațiilor lor, și au descoperit că drona era instruită să detecteze și să atace anumite tipuri de ținte, inclusiv rezervoarele de propan.
În general, dronele din generația precedentă erau fie controlate de operatori umani prin semnale radio sau prin cabluri de fibră optică, fie erau programate în prealabil cu coordonate. În timp ce aceste aeronave au intrat pe terenul de luptă din Ucraina, piloții lor au devenit principalele ținte.
Un dronă autonomă fără pilot, condus de inteligență artificială, nu cere prezența operatorului uman și poate atinge o precizie superioară celei oferite de o muniție programată să atingă coordonate.
În declarațiile făcute de autoritățile locale de apărare aeriană, se menționează că Rusia a îndreptat atacuri asupra obiectivelor civile, precum pompe și rezervoare de propan situate la benzinării din Zaporijie, în timpul testării dronelor autonome, alături de centrele de recrutare militară. Motivele pentru care aceste ținte au fost alese în cadrul experimenților rămân neclare.
Există opinii contrastante privind evoluția armelor bazate pe inteligență artificială.
Grupările pentru drepturile omului și Crucea Roșie Internațională se opun cu tărie utilizării armelor alimentate de inteligență artificială în absența implicării umane. Aceste organizații susțin că sistemele autonome permit, în esență, roboților să interpreteze dreptul internațional în stabilirea țintelor legitime în război.
Totuși, experții susțin că, în viitor, armamentul trebuie să fie supus unei obligații de a integra sisteme de inteligență artificială. Aceste dispozitive ar fi mai sigure, argumentează ei, pentru că pot evalua situația și decide înainte de a acționa, chiar dacă nu reușesc întotdeauna perfect, spre deosebire de bombele aeriene neghidate sau obuzele de artilerie convenționale care cad fără să „văd” ce lovesc.
COMENTARII / 0