OpenAI a anunţat că a blocat un grup de conturi ChatGPT provenite din Rusia, după ce a descoperit că acestea erau utilizate într-o operaţiune online de influenţă şi răspândire a dezinformării, transmite CNBC.
Compania a detectat activitatea în timp ce examinase postări de pe rețelele sociale create cu ajutorul inteligenței artificiale. Analiza a condus apoi la identificarea unei operațiuni mult mai extinse, concepute și pentru a camufla originea rusă a participanților.
ChatGPT a fost utilizat pentru generarea de mesaje de propagandă.
Citește șiVoyager 1 a pierdut contactul cu NASA, apoi și-a revenit în mod misterios. Sonda este aproape de recordul de o zi-lumină de Pământ
Conform OpenAI, operatorii inserau instrucții în limba rusă și foloseau ChatGPT pentru a produce observații și alte conținuturi destinate platformelor Substack, Telegram, X, Facebook și LinkedIn.
Utilizatorii solicitară ca și modelului să elimine din textele generate indiciile lingvistice care ar fi putut dezvălui că autorii erau ruşi.
În Rusia nu se poate accesa modelele OpenAI, dar cei care au participat la operațiune ar fi recurs la VPN-uri pentru a ascunde locația, anunță News.ro.
O iluzie de autoritate în domeniul academic
Un element esențial al campaniei constă în susținerea unei entități denumită International Burke Institute (IBI).
Pagina respectivă includea conținut preluat din documente științifice autentice, iar unele dintre acestea erau atribuite eronat altor cercetători.
Operaţiunea nu se restrângea doar la difuzarea de postări în favoarea Rusiei. Se construia o rețea care să ofere acestor mesaje un aer de credibilitate, prin experți presupuți, documente cu caracter academic și instrumente prezentate ca analize originale.
Un „indicator al suveranității” în favoarea Rusiei
„Sovereignty index”, denumit și indice al suveranităţii, a fost creat de campanie și a prezentat Rusia într-o lumină favorabilă, în timp ce a evaluat statele occidentale negativ.
Conținutul creat cu ChatGPT îndrumase cititorii către o platformă aparent de încredere, care prezenta experți, studii academice republicate și un propriul său indice de evaluare a riscurilor.
OpenAI consideră că mecanismul arată modul în care inteligenţa artificială poate fi utilizată nu doar pentru producerea rapidă de conţinut, ci şi pentru fabricarea unei aparenţe de autoritate şi independenţă a surselor.
Impact redus în prezent, însă infrastructura ar putea fi extinsă.
OpenAI declară că intervenția nu a reușit să atragă o audiență considerabilă.
Compania susține, totuși, că infrastructura creată reprezintă principalul pericol. Aceasta ar putea fi extinsă și folosită ulterior pentru campanii de influență la o scară mult mai mare.
AI poate facilita persoanele implicate în astfel de acțiuni să producă cantități uriașe de material, să ascundă originea mesajelor și să creeze instituții care par legitime, susținând anumite narațiuni.
În această situație, aplicarea inteligenței artificiale a generat, de fapt, un efect contrar: semnele lăsate de utilizarea ChatGPT au facilitat descoperirea operaţiunii mai ample.
Acest eveniment nu constituie primul caz în care sunt implicați actori pro-ruși.
Acest eveniment se încadrează în cadrul unei serii mai extinse de eforturi de a exploata tehnologia inteligenței artificiale
OpenAI a anunțat în luna februarie suspendarea unor conturi ChatGPT legate de Rybar, o platformă de informare pro-rusă, conform declarațiilor autorităților britanice, care susțin că organizația este în parte coordonată de Administrația Prezidențială rusă, beneficiază de finanțare din partea corporației de stat Rostec și colaborează cu reprezentanți ai serviciilor de informații ruse.
CNBC a cerut opinii de la Ambasada Rusiei la Londra și de la Ministerul Rus de Externe în legătură cu noul caz
Descoperirea scoate în evidență una dintre problemele tot mai relevante ale AI: aceeași tehnologie care facilitează generarea rapidă și economică a conținutului poate fi exploatată pentru a crea sisteme de informații care par credibile, având scopul de a ascunde identitatea reală a autorilor mesajelor publicate pe internet.
COMENTARII / 0