Spionajul în era AI: guvernele folosesc Claude pentru supraveghere automată

Anthropic a raportat că a detectat persoane și structuri legate de guvernele din China, Mali și Iran care au utilizat modelele Claude pentru a examina date, a crea dosare și a identifica potențiale ținte ale supravegherii. Tehnologia AI face ca operațiunile de monitorizare a statelor să devină mai rapide, mai ieftine și mai ușor de automatizat.

Statele din întreaga lume, care desfășoară operațiuni de supraveghere, a anunțat în raportul de amenințări al Anthropic, publicat joi, că folosesc Claude pentru a-și eficientiza activitatea, relatează Axios.

Pe măsură ce modelele de inteligență artificială devin mai performante, barierele pentru guvernele interesate să-i spioneze pe disidenți, politicieni, jurnaliști și activiști pentru drepturile omului devin tot mai mici.

Citește șiTrump: Rusia și China nu ajută Iranul, ar avea prea multe pierdut

Anthropic a descoperit indivizi cu legături cu guvernele din Mali, China și Iran care au folosit diverse variante ale modelului Claude pentru a-și eficientiza operațiunile de supraveghere.

În Mali, un specialist angajat de autoritățile de securitate națională a utilizat Claude pentru a dezvolta un mecanism ce adună informații de la furnizorii de telefonie mobilă și întocmește dosare referitoare la indivizi.

Anthropic a expus încă un incident în care grupuri iraniene au utilizat Claude pentru a dezvolta și lansa o extensie rău intenționată pentru Firefox, care

„colecta identitățile utilizatorilor de pe rețelele sociale”

.

De la „mai multe echipe de analiști” la un singur birou

Un serviciu de informații pentru afaceri religioase din China a redus operațiunile de la „mai multe echipe de analiști” la „un singur birou, care folosește un asistent AI pentru a realiza mii de investigații pe lună”, indică raportul. Documentul arată că guvernele au utilizat Claude pentru a procesa aceste date și pentru a identifica persoanele ce urmează a fi supravegheate.

Autoritățile din China au apelat la Claude pentru a examina informații preluate de pe platformele de socializare, stabilind cât de politică sensibilă era fiecare postare și, ulterior, alegând potențiale obiective pentru a aplica ceea ce denumiseră „control”. Această procedură ar putea implica interogatori coercitive sau o supraveghere mai riguroasă a mișcărilor și a comunicațiilor unei persoane.

Anthropic a suspendat în iunie un cont de utilizator care exploata Claude pentru a crea o platformă de monitorizare comercială, menită să spioneze persoane din Iran și din Golful Persic. Compania de inteligență artificială a identificat această activitate înainte ca platforma să fie pusă în funcțiune.

Anthropic observă că inteligența artificială se mută din statutul de instrument experimental în utilizarea cotidiană a aparatului de supraveghere al statelor.

O agenție chineză de securitate internă a elaborat un ghid propriu pentru aplicarea inteligenței artificiale în activitățile de monitorizare, în același timp alți funcționari au recurs la Claude pentru a automatiza raportările zilnice de date și pentru a interoga bazele de date guvernamentale de monitorizare.

Activitatea grupurilor de analiști este automatizată de AI.

Jacob Klein, director al departamentului de informații privind amenințările la Anthropic, a declarat pentru Axios că tehnologiile AI fac supravegherea efectuată de state mai ieftină și mai eficientă, fără a modifica în esență grupurile țintă ale guvernelor.

Tehnologia AI permite din ce în ce mai mult angajaților sau contractorilor independenți ai guvernelor să automatizeze sarcini care, în trecut, necesitau grupuri de analiști, a adăugat Klein.

„Practic, automatizează părți ale activității din cadrul aparatului de informații”, a spus el.

Guvernele nu au necesitat acces la cele mai performante modele Anthropic pentru a-și amplifica operațiunile de supraveghere. În raport, toate cazurile de monitorizare au utilizat Claude Haiku, Sonnet sau Opus, excluzând modelele mai recente din seriile Fable și Mythos.

Anthropic afirmă că a suspendat toate conturile legate de operațiunile de supraveghere pe care le-a detectat și că a intensificat măsurile de protecție pe baza observațiilor realizate.

Claude nu reprezintă automat oprirea operațiunilor. Klein a spus că Anthropic a constatat că unii actori au migrat către modele open-source după ce măsurile de protecție sau intervențiile companiei au generat prea multe bariere. În Mali, autoritățile au reușit în final să instaleze local platforma de supraveghere, utilizând alte modele.

În aceste tipuri de operațiuni, aplicarea inteligenței artificiale nu mai rămâne doar o posibilitate teoretică; compania Anthropic anticipează că eficiența sistemelor AI va continua să se îmbunătățească.

„Statele autoritare folosesc astăzi inteligența artificială pentru supraveghere, represiune și operațiuni de influență”, a declarat Klein. „Nu mai este ceva ipotetic.”