Metodele de atac cibernetic s-au transformat, nemaiputând fi identificate cu ușurință prin intermediul erorilor de gramatică, avertizează un specialist în securitate cibernetică. Inteligența Artificială a facilitat activitatea infractorilor cibernetici, care ar putea în curând să utilizeze tehnologii avansate pentru a imita vocile persoanelor familiare, necesitând o atenție sporită din partea noastră în ceea ce privește activitățile online și datele oferite chatboților.
În cadrul unei discuții detaliate cu HotNews, Silviu Stahie, expert în securitate cibernetică la Bitdefender, a adus în atenție natura insidioasă a escrocheriilor online actuale și a subliniat importanța precauției atunci când oferim detalii personale chatboților, avertizând asupra riscurilor asociate.
Nu trebuie să fim prea îngăduitori cu informațiile pe care le împărtășim cu aceste sisteme automate.
Citește șiDe ce competențe vor avea nevoie copiii de astăzi pentru lumea de mâine? Marea dilemă a unei generații crescute în era inteligenței artificiale
Conform unui studiu realizat de McKinsey, progresul tehnologiilor de inteligență artificială generativă a accelerat considerabil ritmul atacurilor cibernetice, permițând ca obiectivele să fie compromise într-un timp mult mai scurt.
De la finalul lui 2022
, odată cu lansarea ChatGPT, numărul de atacuri de tip phishing a înregistrat o creștere spectaculoasă, fiind de peste zece ori mai mare.
La nivel gramatical, a avut loc o transformare profundă. O revoluție a schimbat regulile acestui domeniu.
De când tehnologia AI generativ a cunoscut o expansiune rapidă, peisajul amenințărilor cibernetice a suferit transformări semnificative. Potrivit lui Silviu Stahie, specialist în securitate informatică, nu este pentru prima dată când apar provocări legate de generațiile successive de tehnologii. Un fenomen similar a fost observat și odată cu dezvoltarea rețelelor de socializare, deși într-o măsură mai mică. În domeniul securității informatice, însă, schimbările nu au fost la fel de evidente.
La apariția lor inițială, s-a presupus că agenții de limbaj vor fi utilizați de atacatori pentru a dezvolta amenințări mai sofisticate și mai greu detectabile. În realitate, însă, aceste unelte au fost folosite într-o manieră mai directă și mai puțin complexă. Ele au reușit să elimine pur și simplu anumite bariere de bază, precum erorile de gramatică, facilitând astfel activitatea atacatorilor.
În prezent, atacatorii cibernetici au capacitatea de a formula mesaje lipsite de erori gramaticale, ceea ce reprezintă o schimbare semnificativă. Anterior, atacurile erau caracterizate printr-o focalizare geografică, iar atunci când un atacator își schimba ținta de la o regiune la alta, trebuia doar să
traducă
mesajul, de exemplu, din limba germană în limba română. Acest proces de traducere ducea la apariția unor erori, facilitând astfel identificarea mesajelor periculoase. Însă, în momentul de față, această distincție a dispărut, atacurile desfășurându-se în mod identic în Germania, Australia și România.
Acum, schimbarea cheie constă în eliminarea acelor erori gramaticale flagrante care anterior semnalau imediat o tentativă de înșelăciune. – Exact. Faptul că atacurile au devenit mai uniforme a rezultat în urma acestei modificări. Anterior, atacurile cibernetice erau lansate în valuri, de obicei înainte de sărbători sau evenimente importante. Această strategie se datora concentrării infractorilor pe anumite zone de interes și resurselor limitate disponibile.
– Să traduci, să găzduiești pagini.. toate acestea înseamnă resurse, bani pe care trebuie să îi investești în atacuri.
Acest lucru a încetat să mai fie un indiciu puternic pentru depistarea înșelătoriilor.
În prezent, datorită facilității sporite de traducere și a costurilor reduse pentru crearea paginilor de phishing pe Darknet, agresorii cibernetici se bucură de multiple beneficii. Faptul că nu mai apar valuri succesive de atacuri, ci doar câteva izolate, demonstrează o schimbare semnificativă. În esență, se observă un flux continuu și omogen de spam și atacuri care au o conexiune evidentă cu această automatizare.
Un nou tip de înșelătorie a apărut, folosind tehnologia ChatGPT pentru a crea apeluri false care par a veni de la poliție, textele fiind redactate cu ajutorul acestei inteligențe artificiale.
Nu se cunosc detalii despre amploarea acestui fenomen.
Astfel de apeluri frauduloase au devenit mai greu de identificat pentru oameni.
Într-adevăr, atacurile cibernetice au devenit mai frecvente și mai greu de detectat. Acest lucru se datorează faptului că mesajele create cu ajutorul inteligenței artificiale sunt redactate impecabil din punct de vedere gramatical, ceea ce le face să fie mai greu de identificat de către oameni.
– Sunt, sunt.
Astfel, atacatorii pot realiza cu mai multă ușurință tehnici de inginerie socială. În ultima perioadă, au apărut noi tipuri de atacuri, precum apelurile telefonice de la persoane care se prezintă ca fiind de la poliție și care afirmă că persoana respectivă este implicată într-un dosar. Aceste atacuri urmează un scenariu bine structurat, probabil creat cu ajutorul unui agent de inteligență artificială, care a fost utilizat într-un mod mai puțin evident.
Într-o conversație telefonică, o persoană te asigură că este de la poliție și îți creează o senzație de urgență, susținând că ești implicat într-o anchetă. Unii oameni intră în panică atunci când li se spune că sunt urmăriți. Atacatorii cibernetici utilizează această strategie pentru a te determina să divulgi informații personale, solicitându-ți, de exemplu, adresa de e-mail sau propunându-ți să continue discuția pe WhatsApp, cu scopul de a obține bani de la tine.
– Da, scopul este să te prindă Simți ideea de urgență. S-a întâmplat ceva, ți se spune că ești prins într-o anchetă.
Apoi, ți se poate cere să faci un anumit lucru pentru a rezolva situația, cum ar fi oferirea de detalii personale. Atacatorii încercă să te mute pe alte platforme pentru a-și atinge scopul.
Creșterea credibilității înșelătoriilor se datorează în prezent bazelor de date mai consecvente. Înșelătoria momentului a devenit mai convingătoare din această cauză.
În cazul unei înșelătorii cibernetice foarte răspândite, oamenii primesc un mesaj SMS care anunță sosirea unui colet inexistent și sunt îndemnați să acceseze un site web creat de atacatori. Pericolul asociat acestei scheme este unul semnificativ. Acest tip de atac a fost extrem de frecvent în ultima lună. Site-ul respectiv reprezintă un kit de phishing, un instrument de înșelăciune vândut pe Dark Web. Atacatorii cumpără aceste kituri prin intermediari și utilizează apoi baze de date disponibile pe DarkNet pentru a colecta informații personale, precum nume, adrese de e-mail și numere de telefon. Aceste baze de date conțin milioane de intrări, oferind astfel atacatorilor o sursă bogată de informații pentru a-și consolida atacurile.
În urma unei acțiuni nesigure, utilizatorul expune informații personale care permit unui individ rău intenționat să-și atribuie un cont de WhatsApp. Numărul de telefon devine instrumentul prin care atacatorul se înregistrează în aplicație. Ulterior, aplicația solicită un cod de verificare trimis prin SMS, pe care utilizatorul, fără să fie conștient de pericol, îl introduce în aplicație, oferind astfel acces complet atacatorului.
Atunci când se pierde controlul asupra aplicației WhatsApp, aceasta rămâne activă pe dispozitivul telefonic, însă acest lucru nu împiedică un alt utilizator să o folosească simultan și să trimită mesaje către contactele din lista de adrese.
Se solicită, în unele cazuri, efectuarea unui transfer financiar în valoare de 2.700 de lei până a doua zi, prin încărcarea unui card.
În discuție au apărut 2.700, 3.000 și 2.000 ca sume de bani, toate de la persoane cu care nu s-a mai vorbit de mult timp. Obiectivul este să fie atrași măcar unul sau doi oameni în capcană. Nu este nevoie de un număr mare de victime pentru a obține 1.000 de euro, deoarece scopul este să se obțină cel puțin o sumă mică.
Este recomandat să se evite metoda de autentificare prin SMS pentru a preveni posibilele fraude.
– Da, Cu cât ai mai multe măsuri de securitate, cu atât mai bine. Noi am recomandat ca la orice fel de serviciu să se ocolească opțiunea aceea cu autentificarea prin SMS, pentru că este cea mai ușor de păcălit.
a fost eliminat și înlocuit cu următorul conținut:
În cazul în care cineva descoperă că infractorii cibernetici trimit mesaje pe WhatsApp folosind numele său, o soluție eficientă este reprezentată de implementarea autentificării în doi pași . Acest lucru sporește securitatea și poate fi completat cu o parolă suplimentară pentru logarea pe WhatsApp . Sunt de părere că cu cât sunt mai multe măsuri de securitate, cu atât mai bine . Noi am sugerat ca pentru orice serviciu să se evite metoda de autentificare prin SMS , deoarece este cea mai vulnerabilă la înșelăciuni .
Este extrem de riscant să confirmi cu un „da” atunci când primești o apelare de la un număr necunoscut, deoarece atacatorii ar putea să îți înregistreze vocea și să o utilizeze ulterior într-un context complet diferit, spre exemplu, pentru a obține acceptul pentru efectuarea anumitor acțiuni.
Un risc semnificativ apare atunci când se răspunde cu DA la un apel de la un număr necunoscut. În loc de a răspunde imediat, este recomandat să nu se spună nimic până când persoana care a sunat nu a oferit un salut, cum ar fi „bună ziua” sau „salut”. Motivul acestei precauții este legat de existența unor sisteme automate care verifică validitatea numerelor de telefon prin a stabili dacă cineva răspunde la apel. Aceste sisteme pot duce la întreruperea bruscă a convorbirii după ce utilizatorul a răspuns, de obicei spunând „alo”.
În realitate, nicio înșelătorie directă nu are loc și nicio persoană nu este păcălită inițial, însă o lună sau chiar șase luni mai târziu, este posibil să primească noi solicitări de participare la conferințe despre sănătate, o tendință din ce în ce mai frecventă. Pentru a optimiza procesul, atacatorii preferă să nu expedieze un volum imens de mesaje, ci să contacteze numere de telefon despre care sistemele lor automate confirmă că sunt active și asociate unor potențiali receptori.
Tehnologia avansată a inteligenței artificiale a facilitat reproducerea vocii umane, „Sunetul este mult mai ușor de replicat”. Această capacitate a dat naștere unor noi tipuri de înșelătorii cibernetice, care se bazează pe reproducerea vocii pentru a înșela oamenii. Astfel de scheme au apărut odată cu dezvoltarea inteligenței artificiale care poate procesa și analiza un număr mare de voci.
În domeniul clonării vocilor, progresele sunt semnificative. Tehnologia a avansat considerabil în acest sector, lăsând în urmă tehnicile de manipulare a imaginilor. În timp ce deepfake-urile video și foto încă prezintă limitări, fiind uneori ușor de recunoscut, chiar și atunci când sunt create cu resurse substanțiale, clonarea vocilor pare a fi mult mai sofisticată. De obicei, aceste deepfake-uri video sunt proiectate pentru a fi vizualizate pe dispozitive mici, iar atunci când sunt vizionate pe telefon în metrou sau autobuz, detaliile nu sunt întotdeauna clare.
Tehnologia a avansat considerabil, facilitând reproducerea vocilor și sunetelor umane. Un exemplu notoriu este cel din alegerile americane din 2020, când tehnica de clonare a vocii a atins un nivel ridicat de sophisticatie, permițând unui robot să contacteze alegătorii cu o voce care imita perfect
vocea lui Joe Biden
.
În ceea ce privește România, nu au fost raportate cazuri de înșelăciuni prin clonarea vocii, însă, potrivit unor opinii, este posibil ca acestea să înceapă prin metode asemănătoare cu „metoda accidentul”. Odată ce oamenii sunt deja vulnerabili la astfel de înșelăciuni, chiar și atunci când nu pot confirma identitatea vocilor la telefon, devine clar că situația va fi și mai gravă atunci când vor putea fi convinși că vorbesc cu persoane cunoscute.
Totuși, uneltele acestea nu sunt așa de ușor de folosit de către oricine. Nu sunt disponibile tuturor, dar se vor perfecționa.
Această concluzie subliniază că, deși tehnologia de clonare a vocii nu este încă la îndemâna oricui, ea se va dezvolta în timp.
Experții avertizează că utilizatorii ar trebui să fie precauți atunci când furnizează detalii personale ChatGPT. Este esențial să se protejeze informațiile sensibile pentru a preveni potențialele abuzuri.
„Nu mai dați ChatGPT informații personale” este mesajul clar transmis de specialiști.
Progresul tehnologiei inteligenței artificiale este evident mai ales în cazul chatbot-urilor avansate precum ChatGPT, Gemini sau Claude. Numeroși utilizatori interacționează cu acestea perioade prelungite. Ce informații confidențiale nu ar trebui să fie dezvăluite în conversațiile cu aceste chatbot-uri? Înainte de a aborda această întrebare, recomand efectuarea unui exercițiu interesant: solicitarea chatbot-urilor să dezvăluie informațiile personale pe care le-au reținut, folosind întrebarea „ce știi despre mine”.
Majoritatea acestor servicii au fost compromise de atacuri cibernetice, drept urmare conversațiile au ajuns în spațiul public sau pe rețele obscure. Securitatea informațiilor nu este garantată atunci când se utilizează aceste canale de stocare. În mod ideal, conținutul acestor conversații ar trebui să rămână privat. Însă, niciodată nu poți avea certitudinea că datele respective nu vor fi divulgate în urma unei breșe de securitate. După un astfel de incident, toate informațiile încărcate anterior pot deveni accesibile publicului.
Este recomandat să se urmeze aceeași strategie de protecție a datelor cu caracter personal ca și în cazul platformelor de socializare online, și anume evitarea încărcării informațiilor sensibile în spațiile publice virtuale. Utilizatorii sunt sfătuiți să-și configureze setările de confidențialitate pentru a restricționa accesul la conținutul postat, similar cu opțiunea de a face lista de prieteni sau conexiuni privată. De asemenea, li se sugerează să evite să împărtășească imagini, în special cele care îi prezintă pe copii în diverse contexte, cum ar fi
în vacanță, la munte sau la mare
, pentru a preveni riscurile asociate cu expunerea online.
În interacțiunile cu chatbot-urile, utilizatorii ar trebui să fie precauți atunci când împărtășesc detalii personale, deoarece acestea pot fi ușor accesibile și exploatate. Pentru a minimiza riscurile, este recomandat să se limiteze cantitatea de informații personale introduse, ținând cont că fiecare persoană are o amprentă digitală unică. În prezent, furnizorii de publicitate au deja acces la profilurile noastre și sunt capabili să ne ofere conținut relevant, personalizat.
Un risc teoretic apare atunci când firmele care gestionează aceste modele lingvistice de mari dimensiuni LLM-uri decid să își maximizeze profiturile. În acest scenariu, ele ar putea opta pentru comercializarea informațiilor pe care le colectează de la utilizatori către entități externe, în special datorită valorii semnificative a acestor date.
Nu se știe încă ce se va întâmpla
, însă această posibilitate ridică îngrijorări.
Companiile aflate în sprijinul inteligenței artificiale ar putea înregistra o scădere semnificativă a numărului de utilizatori, ceea ce le-ar obliga să genereze venituri suplimentare pentru a evita falimentul. În prezent, aceste firme dețin o cantitate considerabilă de date despre utilizatorii lor, colectate anterior.
Un fenomen alarmant, cunoscut sub numele de „AI poisoning”, a apărut în peisajul securității cibernetice. Acesta reprezintă o nouă provocare pentru experții în securitate și pentru utilizatorii de tehnologie.
„Este o problemă foarte serioasă”
, potrivit specialiștilor. Acest fenomen are legătură cu modul în care Inteligența Artificială a transformat metodele de fraudă cibernetică. O consecință directă a acestui fenomen este scăderea eficienței unor metode tradiționale de depistare a înșelătoriilor. Acest lucru face ca fraudele cibernetice să fie mult mai greu de detectat de către oameni.
În interacțiunile cu un chatbot, oamenii pot avea impresia că sunt într-o conversație exclusivă, ceea ce poate fi înșelător. Acest sentiment de securitate dispare atunci când ne reamintim că, inițial, înțelegerea noastră cu platformele de rețele de socializare era că utilizatorii devin produsul oferit. Un proverb celebru spune că „dacă ceva este oferit gratuit, atunci utilizatorul este produsul”. Practic, utilizatorii primesc un serviciu gratuit în schimbul datelor personale, pe care Meta și alte firme le reexploatează ulterior pentru scopuri publicitare.
În conversaţiile cu chatbot-urile, de asemenea oferim voluntar informații acestor modele lingvistice de mari dimensiuni. Le furnizăm imagini, solicităm informații despre sănătate, itinerarii și localități. Pentru aceste firme devine relativ simplu crearea de profiluri detaliate. Deși nu putem confirma cu certitudine dacă acest lucru se întâmplă efectiv, aceste entități sunt conștiente de detalii precum faptul că X este bărbat, are o pasiune pentru călătorii, anumite preferințe culinare și posibile probleme medicale. Putem reflecta la consecințele potențiale, de exemplu, în cazul în care respectivele informații privind dificultățile de sănătate ajung în posesia unei companii de asigurări.
Utilizatorii deseori împărtășesc informații extrem de intime cu chatbot-urile, unii chiar îi consideră instrumente terapeutice. Acest lucru poate fi periculos, mai ales atunci când chatbot-urile sunt prost concepute și oferă sfaturi periculoase.
– Categoric.
Există precedente în care chatbot-urile au dat sfaturi extrem de periculoase și chiar au îndemnat utilizatorii la suicid. În plus, devine foarte dificil să se evite interacțiunea cu un chatbot, deoarece chiar și o căutare obișnuită pe Google poate declanșa un chatbot. Astfel, s-ar putea spune că ai interacționat cu un LLM fără să-ți dai seama. Și asta e similar cu discuția cu un chatbot.
În cazul în care ai formulat o întrebare, fiind autentificat pe contul tău Google, referitoare la originea unei pete roșii apărute pe mână, Google păstrează această informație. Toate detaliile privind căutările efectuate pe platforma Google sunt stocate în profilul tău de utilizator.
Este esențial să înțelegem că toate interacțiunile cu acești roboți conversaționali sunt stocate în scopul perfecționării lor, astfel încât răspunsurile oferite în viitor să fie mai precise. Însă, o dificultate majoră rezidă în lipsa de verificare a exactității informațiilor furnizate, ceea ce constituie și o limitare semnificativă a acestor tehnologii la momentul actual.
În prezent, dezvoltatorii se confruntă cu o provocare majoră în ceea ce privește hrănirea sistemelor cu date noi și verificate, deoarece resursele sunt limitate. Pe de altă parte, fenomenul de otrăvire a inteligenței artificiale devine din ce în ce mai îngrijorător, deoarece bazele de date sunt populate cu răspunsuri generate de alte AI-uri, ceea ce poate duce la apariția unor invenții și halucinații multiple.
Atunci când sistemele AI sunt alimentate cu date din anumite baze, consecințele sunt evidente în modul în care interacționează cu publicul, astfel încât respectivele sisteme AI ajung să considere că anumite informații sunt verificate, în cazul în care un număr suficient de mare de persoane pun întrebări incorecte. De asemenea, au existat cazuri în care respectivele sisteme AI au indicat drept sursă credibilă o pagină de satiră.
COMENTARII / 0