BBC a interacționat cu un grup de profesioniști din sectorul tehnologic, dintre care unii au renunțat recent la posturile din cadrul Google DeepMind, divizia de inteligență artificială a Google, iar alții se pregătesc să părăsească compania, motivat de temerile privind contractele militare ale acesteia.
Ce au declarat foștii angajați
Sofia Liguori, inginer de cercetare cu sediul în Londra, se numără printre aceste persoane. Ea a depus demisia în cadrul Google DeepMind în această săptămână și a furnizat informații exclusive BBC-ului despre îngrijorările sale, deși o clauză din contractul ei limitează dreptul de a face acest lucru.
Citește șiVulnerabilitate AI amenință 70% din site-urile web globale
„Faptul că am realizat că firma mea promovează din ce în ce mai mult utilizarea sistemelor de inteligență artificială în operațiuni militare mă face să-mi fie rușine că lucrez la Google”
a declarat Liguori, subliniind că își exprimă punctul de vedere în nume personal.
În replică, un purtător de cuvânt al Google a declarat pentru BBC: „Colaborăm cu organizații din sectorul public din întreaga lume și urmăm un proces consecvent de evaluare și încheiere a acestor contracte, inclusiv în ceea ce privește respectarea politicilor noastre privind utilizarea acceptabilă și a principiilor noastre în materie de inteligență artificială.”
Recomandări Video
„De asemenea, avem canal dedicate prin care angajații își pot semnala în siguranță orice preocupări, de la aspecte legate de etica în afaceri până la abateri profesionale, și dispunem de politici stricte la locul de muncă pentru a preveni orice formă de represalii.”
Google reprezintă una dintre numeroasele firme de tehnologie care au încheiat, la începutul anului, acorduri cu armata americană pentru introducerea inteligenței artificiale în zone militare clasificate, BBC precizează.
Secretarul american al Apărării, Pete Hegseth, a declarat că integrarea inteligenței artificiale în forțele armate devine o prioritate majoră, iar administrația Trump intenționează să transforme armata într-o
„forță de luptă care pune IA pe primul loc”
.
Tehnologia de IA avansează cu o viteză impresionantă, iar experții își exprimă îndoielile privind gradul de fiabilitate al acesteia pentru a fi impusă în operațiuni militare război fără a fi supusă unor testări suplimentare, unor controale de securitate mai riguroase și unei monitorizări umane continue.
După ce a petrecut trei ani în cadrul companiei, Liguori a anunțat că a luat hotărârea de a pleca, motivat de creșterea implicării Google în parteneriatele cu armatele Statelor Unite și Israelului.
„Nu sunt de acord cu această direcție, iar acest lucru m-a făcut să-mi pierd încrederea că firma mea respectă cu adevărat valorile etice pe care le declară”,
a declarat ea.
Conform Principiilor Google privind inteligența artificială, aceste valori cuprind dezvoltarea și aplicarea IA sub
„supraveghere umană”
și alinierea tehnologiei la
„dreptul internațional și drepturile omului”
.
Gradul de îngrijorare se ridică
Totuși, foști și actuali colaboratori ai firmei, împreună cu specialiști intervievați de BBC, au exprimat temeri legate de intensitatea supravegherii umane în perioadele decisive. Profesioniștii din sectorul tehnologic manifestă o anxietate accentuată față de contractele militare privind IA încheiate în acest an, întrucât acestea amplifică semnificativ posibilitățile pe care Pentagonul le poate atribui acestei tehnologii.
Cercetătorul de inteligență artificială Andreas Kirsch a părăsit Google DeepMind în primele zile ale lunii, motivat de temerile sale.
Kirsch a spus pentru BBC că, după părerea sa, sistemele de control și monitorizare ale Google nu sunt suficient de robuste sau pertinente pentru a facilita utilizarea sigură și responsabilă a inteligenț
„Google pare să nu aibă dreptul de a controla sau de a se opune modului în care Pentagonul folosește IA sa și, de asemenea, pare să aibă o vizibilitate limitată asupra modului în care aceasta este implementată”, a adăugat el.
În decursul ultimilor ani, armata SUA a introdus o serie de tehnologii alimentate de inteligență artificială în scopul de a-și intensifica abilitățile de combatere.
Exemplul cel mai cunoscut este Maven Smart Systems, platforma software principală a Pentagonului destinată structurării informațiilor și a datelor de inteligență.
Palantir, companie americană de apărare, a creat o platformă ce folosește inteligența artificială pentru a sprijini forțele armate în alegerea și identificarea obiectivelor ce urmează a fi atacate. În cadrul proiectului Maven, Palantir a incorporat tehnologii de la diverse firme de top din sectorul IA, ceea ce a condus la o accelerare semnificativă a unor procese cheie.
Ce conține acordul dintre Google și Pentagon?
Google și Pentagon au încheiat un acord la începutul acestui an, care autorizează aplicarea tehnologiei de inteligență artificială a firmei în operațiuni militare confidențiale.
Acordul prevede că modelele de inteligență artificială ale Google pot fi utilizate „în orice scop guvernamental legal” și „nu ar trebui folosite pentru supravegherea în masă a populației pe teritoriul SUA sau pentru arme autonome (inclusiv pentru selectarea țintelor), fără o supraveghere și un control uman adecvate”.
OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia și startup-ul Reflection au încheiat contract
Pe măsură ce tehnologia avansează cu o viteză accelerată, se intensifică temerile legate de utilizarea inteligenței artificiale în zonele de conflict.
„IA comprimă timpul de care dispune un operator pentru a lua o decizie, deoarece funcționează mult mai repede decât un om, iar acest lucru este deosebit de riscant într-un mediu cu un nivel ridicat de stres”, a declarat Sarah Shoker, fostă șefă a echipei pentru geopolitică din cadrul OpenAI.
Funcționarii Google au spus în cadrul unui interviu acordat BBC că se îngrijorează să discute deschis despre siguranța AI și despre utilizarea acesteia în conflicte armate, din cauza clauzelor din contractele lor de muncă care le împiedică să critice compania în public.
Un angajat al Google DeepMind, care lucrează în prezent în companie și a dorit să rămână anonim de teama unor eventuale represalii, a declarat pentru BBC că „mulți angajați motivați, care s-au alăturat companiei crezând în misiunea sa inițială, ar putea pleca. Totuși, există și un flux constant de oameni aflați la începutul carierei, care ar putea ocupa aceste posturi. S-ar putea produce o schimbare de generație”.
Un alt angajat al Google DeepMind, care a solicitat, de asemenea, anonimatul, a declarat pentru BBC: „Mulți oameni au părăsit compania pentru că sunt profund nemulțumiți de această situație și de modul în care Google DeepMind și-a schimbat poziția în privința eticii”.
„Unii încearcă să lupte împotriva acestei direcții, în timp ce alții se gândesc: «Este o companie mare. La ce schimbări te poți aștepta?»”, a spus angajatul.
Parteneriatele Google cu Israelul au generat, în plus, controverse.
Parteneriat cu armata israeliană
În anul 2024, angajații companiei l-au acuzat de un contract comun cu Amazon, în valoare de 1,2 miliarde de dolari (960 de milioane de lire sterline), denumit Proiectul Nimbus. Acest acord furnizează guvernului și forțelor armate israeliene tehnologie de inteligență artificială și infrastructură de cloud computing.
În acel timp, Google a susținut că Proiectul Nimbus
„nu este destinat unor activități extrem de sensibile, clasificate sau militare, care au legătură cu sistemele de armament ori cu serviciile de informații”
Mai mult, posibilitatea Israel de a aplica inteligența artificială în conflict a stârnit controverse după ce documentarul recent Naza a expus modul în care sistemele de identificare a țintelor bazate pe IA au fost utilizate în bombardarea Fâșiei Gaza, unde au înregistrat victime civile numeroase.
Un oficial din guvernul Israelului a susținut că reproșurile arătate în film sunt neadevărate și distorsionate. Anterior angajat la Google, Andreas Kirsch susține că sistemele de inteligență artificială nu sunt încă gata pentru aplicare în mediul de conflict.
COMENTARII / 0