În mediul online, ne-am întâlnit cu toții cu imagini, scene video sau fragmente scrise, uneori chiar tulburătoare sau comice, care însă nu poartă nicio mențiune privind crearea lor prin metode de inteligență artificială. Aceste practici lipsite de transparență reprezintă o problemă în spațiul virtual. Însă cine sunt responsabili pentru ele și cum ne putem apăra? Pentru a găsi răspunsurile la aceste întrebări, HotNews a consultat experți în tehnologie digitală și în reglementările europene aferente acestui domeniu.
Mădălina Botan, vicepreședinte al grupului de lucru pe codul de bune practici pentru transparența conținutului produs cu inteligența artificială din cadrul Comisiei Europene, subliniază că devine tot mai dificilă distincția între conținutul autentic și cel creat cu ajutorul inteligenței artificiale.
- În ciuda acestei provocări, există anumite indicii care pot ajuta la identificarea conținutului generat cu inteligența artificială, însă acestea sunt adesea subtile și necesită o atenție deosebită.
- „Cei care generează conținut cu inteligența artificială au obligația să-l marcheze”, afirmă Mădălina Botan.
- Legislația europeană prevede că platformele de socializare, precum Facebook sau TikTok, au obligația de a marca conținutul generat cu inteligența artificială doar atunci când acesta prezintă riscuri sistemice, cum ar fi alegerile, dezinformarea sau subiecte de interes public larg.
- Există însă limite ale legislației europene, una dintre ele fiind distincția între postările făcute „în scop comercial” și cele ale utilizatorilor obișnuiți, aceștia din urmă nefiind obligați să-și marcheze conținutul creat cu inteligența artificială.
- Realitatea e că devine din ce în ce mai greu de făcut diferența între imaginile, textele sau videoclipurile autentice și cele generate cu inteligența artificială.
- Există, totuși, niște indicii după care ne putem uita, dar trebuie să fim conștienți că sunt adesea subtile și cer o privire atentă.
- „Cei care generează conținut cu inteligența artificială au obligația să-l marcheze”, explică Mădălina Botan, care este vicepreședinte în grupul care lucrează la codul de bune practici pentru transparența conținutului produs cu AI din cadrul Comisiei Europene.
- Totuși, legislația europeană are limite. Una ar fi că platformele sociale, precum Facebook sau TikTok, au obligația de a marca conținutul generat cu AI doar când acesta prezintă „riscuri sistemice”, precum alegeri, dezinformare sau teme de larg interes public. Alte limite sunt legate de distincția făcută de lege între postările făcute „în scop comercial” și cele ale utilizatorilor obișnuiți. Cei din urmă nu sunt obligați să-și marcheze conținutul făcut cu Inteligența Artificială.
Imagini și clipuri video încărcate pe platformele de social media par, la o privire superficială, complet autentice: scene care evocă fie emoție, fie veselie, persoane comune surprinse în situații excepționale, de la scene miraculoase de salvare realizate de studenți la medicină pentru vârstnici, la momente aparent autentice din cotidian. Aceste postări sunt concepute pentru a provoca reacții imediate – fie că vorbim despre compasiune, indignare sau admirație – la cei care le vizualizează.
Citește șiJensen Huang se pregătește să reia conducerea Nvidia
Problema cu acest conținut nu este că a fost generat cu inteligența artificială, ci că acest lucru nu este clar precizat, încă de la început.
Astfel de conținuturi lipsite de claritate privind originea lor reprezintă o problemă, deoarece de multe ori nu suntem conștienți că ceea ce vedem este ireal.
Un exemplu concret poate fi observat pe pagina de Facebook „Românașul Isteț”, care numără peste 100.000 de urmăritori. Această pagină abundă în conținut de acest tip. O postare care a devenit virală, cu peste 3.000 de distribuiri, prezintă o imagine creată cu ajutorul inteligenței artificiale, fiind însoțită de un text detaliat despre un individ care acordă sprijin unei persoane în vârstă aflate într-o situație dificilă. Este o imagine care a reușit să captiveze atenția publicului.
Este o relatare emoționantă, structurată într-un mod care captează atenția cititorului până la sfârșitul narațiunii. Abia după o descriere detaliată și lungă, care pare să nu aibă sfârșit, se face o mențiune subtilă că imaginea și povestea au fost create cu ajutorul inteligenței artificiale, însă inspirate din evenimente reale, un detaliu care trece adesea neobservat de majoritatea utilizatorilor. În realitate, conținutul se propagează ca și cum ar fi autentic, fiind partajat și comentat în acest mod.
În trecut, distincția dintre imaginile capturate de oameni și cele generate de inteligența artificială era relativ simplă tehnologii fiind mai puțin avansate. Astăzi însă, odată cu progresul sofisticării tehnologiilor, devine din ce în ce mai dificilă observarea diferenței dintre conținutul real și cel artificial, chiar și pentru utilizatorii care acordă atenție sporită.
În urma lipsei unor marcaje evidente și transparente, materialele create cu ajutorul inteligenței artificiale se integrează perfect cu cele reale, iar rețelele sociale nu iau măsuri eficiente (sau nu au suficientă motivație) pentru a semnaliza clar acest tip de conținut. Drept urmare, se ajunge la o situație în care utilizatorii sunt din ce în ce mai expuși la riscul de a disemina și chiar de a împărtăși conținut fără să aibă cunoștință despre originea sa reală. Acest fenomen are loc în cadrul unui ecosistem în care oamenii sunt din ce în ce mai frecvent puși în situația de a vehicula informații fără să aibă o imagine clară a ceea ce diseminează.
În august 2026, va deveni efectivă legislația Uniunii Europene care vizează reglementarea Inteligenței Artificiale.
La scară europeană, sunt deja în vigoare norme menite să abordeze această problematică, însă realitatea este mai complexă decât se poate observa inițial. AI Act (Legea Inteligenței Artificiale) reprezintă principalul regulament în cadrul Uniunii Europene, care impune cerințe de transparență pentru conținutul creat cu ajutorul inteligenței artificiale. Această lege urmează să fie implementată, însă doar începând cu august 2026. Normele vor fi aplicate în mod direct în toate statele membre ale UE, iar în cazul României, ANCOM va fi organismul responsabil cu asigurarea implementării AI Act.
În conformitate cu reglementările actuale, Mădălina Botan, conferențiar universitar la SNSPA și vicepreședinte al grupului de lucru privind codul de bune practici pentru transparența conținutului generat cu inteligență artificială din cadrul Comisiei Europene, afirmă că:
„Cei care generează conținut cu inteligența artificială au obligația de a marca output-ul (n.r.- produsul), fie prin watermarking, fie prin metadate”
.
În esență, detaliile privind generarea unui conținut prin intermediul inteligenței artificiale sunt stocate în mod implicit, chiar dacă nu sunt imediat accesibile utilizatorilor. Aceste informații permit rețelelor sociale să recunoască și să clasifice conținutul respectiv. Ca urmare, platformele online au posibilitatea de a marca acest conținut în mod explicit pentru a informa utilizatorii, de a-i restricționa vizibilitatea sau de a-l supune unei analize mai detaliate pentru a combate dezinformarea.
În ciuda faptului că responsabilitățile se aplică în primul rând companiilor, AI Act impune și obligații suplimentare celor care utilizează aceste tehnologii în scopuri profesionale ori comerciale, precum un brand, un creator de conținut sau o publicație.
Nu se opresc
însă doar la nivelul entităților comerciale aceste responsabilități.
Regulile privind responsabilitățile utilizatorilor sunt mai complexe și se aplică numai acelor persoane care utilizează conținut creat cu ajutorul inteligenței artificiale în scopuri profesionale sau comerciale. Botan subliniază că această categorie include jurnaliști, creatori de conținut și antreprenori, adică orice activitate care depășește sfera personală. În astfel de situații, există o obligație clară de a marca conținutul respectiv, după cum afirmă Botan:
În aceste cazuri există obligația de a eticheta conținutul
.
În cazul persoanelor care utilizează platformele pentru a posta conținut în scopuri personale, nu există o țintă directă din partea reglementărilor.
În ceea ce privește utilizarea inteligenței artificiale în scopul creației de conținut, există o distincție clară între utilizatorii standard și cei care utilizează AI în scopuri comerciale. Deși ambele categorii pot crea conținut digital, scopul și domeniul de aplicare al activităților lor diferă semnificativ.
Nu există o declarație oficială care să diferențieze clar aceste două tipuri de utilizatori
, însă impactul și obiectivele lor sunt relativ ușor de distins. Utilizatorii obișnuiți, de obicei, creează conținut pentru utilizarea personală sau pentru a interacționa cu comunitatea lor online. Pe de altă parte, cei care folosesc AI în scop comercial au obiective financiare și strategi de marketing bine definite.
În esență, distincția dintre un utilizator standard și unul care utilizează inteligența artificială în scopuri profesionale sau comerciale este determinată de obiectivul și circumstanțele publicării.
Obiectivul legislației este legat de scopul economic sau profesional al materialului publicat, și nu în primul rând de identitatea celui care îl face public, Botan oferind această clarificare. În situația în care o imagine creată cu ajutorul inteligenței artificiale este distribuită pe profilul personal, exclusiv pentru cercul apropiat de prieteni și familie, fără a rezulta vreun avantaj direct sau indirect, atunci nu sunt aplicabile obligațiile privind marcarea conținutului, conform explicațiilor oferite.
„Legea urmărește scopul economic sau profesional al conținutului, nu neapărat cine îl postează”
, a declarat Botan.
Atunci când aceeași imagine este integrată într-un material publicitar, într-un articol de presă sau într-o strategie de marketing pe rețelele sociale, reglementările impun clarificarea sursei pentru a avertiza publicul că materialul a fost creat cu ajutorul inteligenței artificiale. În esență, distincția se face în funcție de contextul în care este utilizat conținutul și de potențialul acestuia de a influența sau de a genera venituri.
În urma acestei delimitări, este posibil ca pagini de genul „Românașul Isteț” să fie supuse reglementărilor AI Act. 100.000 de urmăritori și funcționarea ca un mijloc de comunicare profesională sunt aspecte care, chiar dacă administratorii nu comercializează direct materialele sau nu integrează reclame plătite în fiecare postare, ar putea fi relevante. Încadrarea paginii drept „Digital creator” pe Facebook subliniază această caracteristică.
Un public numeros are acces la conținut creat prin inteligență artificială, care poate fi valorificat financiar în mod indirect și are capacitatea de a modela opiniile celor care îl vizualizează.
Potrivit lui Bogdan Manolea, consultant juridic și director executiv al Asociației pentru Tehnologie și Internet, în cazul în care un utilizator publică în mod regulat conținut similar și este catalogat ca Digital Creator, anumite reguli vor fi aplicate în mod obligatoriu.
„Dacă e o pagină care asta face tot timpul, eu cred că are un scop comercial acolo, probabil ascuns. Poate să fie refolosită la alegeri, de exemplu. Dar este o activitate profesională acolo, clar”
În cazul unei postări create de un cont individual și realizate de un utilizator comun care, accidental, devine virală, limitările AI Act devin evidente și legislația încetează să mai fie aplicabilă .
Spusele lui Manolea subliniază o distincție importantă: AI Act are o aplicabilitate limitată, fiind inaplicabil în situațiile în care conținutul a fost creat fără intenții comerciale sau profesionale inițiale. Potrivit acestuia, cu toții comitem greșeli, însă trebuie să facem o diferențiere clară între utilizarea AI în activitățile noastre profesionale și situațiile în care postările noastre, realizate întâmplător, capătă o popularitate virală.
„Dacă nu ai avut niciun scop comercial sau profesional inițial, atunci AI Act nu se mai aplică. Cu toții facem greșeli. Trebuie să înțelegem distincția asta. Una e să faci astfel de postări în activitățile tale profesionale și una e să faci tu o postare la întâmplare și să ajungă virală”
, afirmă Manolea.
Este esențial ca etichetarea să fie transparentă și ușor de înțeles pentru public. Claritatea de la început este crucială, deoarece simpla menționare a acestui fapt la sfârșitul unui text lung nu este suficientă. Potrivit AI Act, utilizatorii trebuie să fie informați imediat că conținutul a fost generat cu ajutorul inteligenței artificiale.
În cele mai multe situații, conținutul creat cu ajutorul inteligenței artificiale trebuie să fie semnalizat ca atare de către companiile care dezvoltă tehnologii AI, iar cei care îl utilizează pe platformele de social media au, de asemenea, obligația de a îl marca în mod clar pentru public. Facebook, Instagram și TikTok sunt exemple de rețele sociale unde această practică este esențială, dar se ridică întrebarea: ce se întâmplă în cazul acestor platforme?
Se înregistrează și anumite lacune legislative în ceea ce privește reglementarea conținutului creat cu ajutorul inteligenței artificiale. Anumite domenii rămân neacoperite de lege, ceea ce ridică întrebări privind modul în care pot fi identificate și gestionate astfel de situații.
Este esențial să se realizeze că reglementarea „AI Act” nu prevede o cerință explicită pentru platforme online precum Facebook, Instagram sau TikTok de a marca în mod obligatoriu toate materialele produse cu ajutorul inteligenței artificiale. Accentul acestei legi cade în primul rând asupra responsabilităților furnizorilor de tehnologie și a entităților care dezvoltă conținut utilizând inteligența artificială în cadrul activităților lor profesionale sau comerciale.
În ciuda cerințelor de identificare tehnică, platformele online nu sunt obligate să eticheteze tot conținutul generat de inteligența artificială încărcat de utilizatori.
Responsabilitățile acestor entități în cadrul ecosistemului sunt considerabile, însă Directiva privind serviciile digitale (DSA), o reglementare europeană distinctă, este cea care le impune în mod direct obligația de a eticheta conținutul, spre deosebire de Actul privind inteligența artificială care nu prevede în mod explicit această responsabilitate.
„Rolul lor în ecosistem este enorm, dar responsabilitatea lor directă de etichetare nu vine din AI Act, ci mai degrabă dintr-o altă legislație europeană: Digital Services Act (DSA).
nu este cazul aici deoarece nu avem un citat
corectat:
Responsabilitățile acestor entități în cadrul ecosistemului sunt considerabile, însă obligația lor directă de a eticheta conținutul este impusă de Directiva privind serviciile digitale (DSA), o reglementare europeană distinctă, și nu de Actul privind inteligența artificială.
În conformitate cu DSA, DSA impune platformelor responsabilitatea de a marca conținutul creat cu ajutorul inteligenței artificiale atunci când prezintă riscuri sistemice, de exemplu, în situații legate de dezinformare, procese electorale, grupuri vulnerabile sau subiecte de interes public. În realitate, AI Act și DSA trebuie să opereze în tandem, însă în practică există anumite zone gri între ele, iar platformele exploatează aceste ambiguități, după cum afirmă Mădălina Botan.
În procesul de definire a riscurilor sistemice din cadrul DSA, DSA se evidențiază o zonă de incertitudine: un material video creat cu ajutorul inteligenței artificiale, care reproduce un politician, poate fi catalogat drept satiră sau dezinformare, în funcție de circumstanțele în care este prezentat, ceea ce face ca obligația de a fi etichetat sau restricționat să devină interpretabilă.
Procesul de implementare a acestor reguli se confruntă cu o realitate mult mai complexă, caracterizată printr-un ritm lent și o abordare excesiv de birocratică. DSA prevede sancțiuni financiare considerabile, reprezentând un procentaj din veniturile totale, însă experiența arată că se pierde mult timp până când autoritățile reușesc să construiască dosare solide împotriva platformelor online, după cum
„ea”
subliniază.
Politici interne distincte pentru marcarea conținutului generat de inteligența artificială sunt implementate de fiecare rețea socială în parte. Rețelele sociale au reguli proprii în ceea ce privește identificarea și marcarea acestui tip de conținut.
În paralel cu reglementările europene, rețelele sociale de top au implementat politici interne distincte pentru gestionarea conținutului creat prin inteligență artificială.
La Meta (platformele Facebook, Instagram și Threads), conținuturile video, fotografiile și materialele audio create cu ajutorul inteligenței artificiale primesc acum o etichetă informativă. Această etichetă „Informații despre AI” oferă detalii despre modul în care inteligența artificială a fost utilizată: dacă a fost folosită pentru a crea conținutul integral sau doar pentru a-l modifica. În situațiile în care au fost făcute ajustări minore, această etichetă poate fi găsită într-un meniu contextual, accesibil după ce se apasă pe cele trei puncte aliniate vertical, situate în partea dreaptă sus a postării.
Similar, platforma TikTok are o abordare care necesită ca materialele ce conțin imagini, sunete sau secvențe video realiste, create cu ajutorul inteligenței artificiale, să fie etichetate corespunzător. Regulile specifice impun ca toate conținuturile fie generate, fie substanțial modificate prin AI, să fie clar marcate, această responsabilitate revenind fie creatorului de conținut, fie mecanismelor automate integrate de platformă. În acest scop, creatorii de conținut au posibilitatea de a utiliza elemente precum text, hashtag-uri sau descrieri pentru a semnala acest aspect, în timp ce platforma TikTok este capabilă să aplice în mod automat eticheta „AI-generated” atunci când detectează conținuturi care au fost fie complet generate, fie semnificativ modificate prin inteligență artificială.
În mod frecvent, conținutul creat cu ajutorul tehnologiilor de inteligență artificială nu primește etichete care să îl identifice ca atare. Acest fenomen ridică întrebări despre transparența și autenticitatea informațiilor distribuite online. Utilizatorii se întreabă de ce nu este întotdeauna clar când o imagine sau un videoclip a fost generat cu inteligența artificială. Această lipsă de claritate poate duce la confuzie și la dificultăți în evaluarea veridicității conținutului.
Tehnologia are anumite limite, potrivit lui Alexandru Voica, expert în tehnologie și comunicare, care ocupă funcția de Head of Corporate Affairs & Policy la Synthesia, o companie specializată în dezvoltarea inteligenței artificiale pentru generarea de videoclipuri realiste din text.
Identificarea conținutului creat de inteligența artificială se realizează prin diverse metode, printre care textul vizibil, metadatele și watermarking-ul digital, însă fiecare abordare prezintă anumite limite. De exemplu, textele și watermark-urile pot fi eliminate cu ușurință, în timp ce metadatele sunt adesea pierdute în procesul de comprimare a fișierelor. În plus, soluțiile avansate de watermarking și tehnologiile blockchain nu au fost încă implementate la scară largă.
În prezent, datorită limitărilor existente, nu se poate găsi o soluție tehnică impecabilă la nivel universal. Potrivit spuselor lui Voica, în viitorul apropiat, ne vom confrunta, probabil, cu un ecosistem hibrid în care anumite conținuturi vor fi clar marcate ca fiind create cu ajutorul inteligenței artificiale, în timp ce altele nu vor putea fi identificate cu certitudine.
„Din cauza acestor limitări, nu există în prezent o soluție tehnică universală și perfectă. Vom trăi, cel mai probabil, într-un ecosistem mixt, în care unele conținuturi vor fi marcate ca fiind generate cu AI, iar altele nu vor putea fi identificate clar”, spune Voica.
În viitor, soluții tehnice superioare ar putea să apară. Însă crearea lor necesită o perioadă considerabilă de timp, de ordinul ani de zile. Chiar și după implementare, eficiența lor în rezolvarea completă a problemei rămâne nesigură. Deși conținutul ar putea fi clar identificat ca fiind generat prin AI, o parte dintre utilizatori ar putea să ignore această etichetă sau să continue să acorde credibilitate mesajului, potrivit spuselor lui.
„Chiar și atunci, însă, nu este sigur că vor rezolva problema complet. Chiar dacă un conținut ar fi etichetat clar ca fiind generat cu AI, mulți utilizatori ar putea ignora această informație sau ar continua să creadă mesajul”
Cum putem recunoaște mai ușor materialele create cu ajutorul inteligenței artificiale? Există câteva strategii pentru a face acest lucru. Identificarea conținutului generat de AI poate fi o provocare, dar este esențial să fim conștienți de posibilitățile și limitările tehnologiei.
În prezent, distincția dintre conținutul autentic și cel creat prin inteligența artificială devine o provocare din ce în ce mai dificilă, fie că vorbim despre imagini, texte sau videoclipuri. Deosebirea între realitate și creația artificială se estompează.
Unele semne distinctive pot fi identificate cu atenție, însă trebuie să fim conștienți că sunt de obicei discrete și necesită o examinare detaliată.
Imaginile produse de tehnologia AI prezintă în continuare deficiențe anatomice, cum ar fi degete disforme și proporții corporale nerealiste. În plus, pot apărea lipsuri de continuitate ale membrelor sau fundaluri neclare ori distorsionate. De asemenea, fețele generate pot da o impresie de simetrie artificială sau pot avea expresii fixe și lipsite de variații naturale, spre deosebire de ceea ce observăm la oamenii reali.
Se poate observa, de exemplu, în imaginea de sus, că modul în care atârnă cerceii indică o lipsă de simetrie între urechi.
Înregistrările video ridică dificultăți suplimentare: mişcările personajelor se pot dovedi prea sincronizate, gesturile pot apărea înţepenite ori cu o cursivitate nefirescă, iar ochii sau buzele pot avea traiectorii nefaste. Tonalităţile sonore produse pot fi plate (în cazul în care sună a voce generată de inteligenţa artificială, e foarte probabil să fie aşa) sau respiraţiile şi efectele de atmosferă care nu se potrivesc cu scena reprezentată. Uneori, inteligenţa artificială nu reuşeşte să redea în mod corect reflexiile de lumină sau umbrele, chiar dacă la o privire superficială, imaginea sau secvenţa video par a fi realiste.
Pe măsură ce tehnologiile AI se dezvoltă și devin mai avansate, modelele respective reduc considerabil numărul de erori pe care le comiseseră anterior. Cu cât trece mai mult timp, cu atât aceste erori devin tot mai puțin frecvente.
Potrivit Mădălinei Botan, devine extrem de dificil pentru utilizatori să facă distincția între conținutul creat cu ajutorul inteligenței artificiale și cel autentic. Deși sunt experți în domeniu, chiar și profesioniștii se confruntă cu provocări în identificarea deepfake-urilor de înaltă calitate.
„În ceea ce privește utilizatorii, realitatea este că devine din ce în ce mai dificil, dacă nu imposibil, să distingă conținutul generat cu AI de cel real. Chiar și profesioniștii pot avea dificultăți în a identifica deepfake-uri bine realizate”
, adaugă ea.
În prezent, capacitatea de a gândi critic capătă o importanță din ce în ce mai mare.
În situația curentă, o abordare eficientă implică marcarea adecvată a acestor conținuturi, ținând cont însă de limitările tehnice actuale, alături de promovarea educației.
În fața conținutului online, Alexandru Voica propune o schimbare de perspectivă: în loc de a se întreba dacă un anumit conținut a fost generat cu ajutorul inteligenței artificiale, ar trebui să ne concentrăm asupra credibilității informațiilor prezentate.
„În loc să ne concentrăm obsesiv pe întrebarea „este sau nu generat cu AI?”, cred că ar trebui să ne întrebăm dacă ceea ce vedem este credibil”
. O strategie mai productivă, în opinia sa, este cultivarea gândirii critice. Spre exemplu, în țări ca Finlanda, internauții nu acceptă automat drept adevărate informațiile întâlnite online. În schimb, ei au tendința de a verifica veridicitatea acestora prin consultarea mai multor surse. Dacă nu reușesc să găsească cel puțin două sau trei surse de încredere care să confirme acea informație, atunci sunt mai înclinați să o considere neverosimilă. Potrivit lui Alexandru Voica, această manieră de abordare este mult mai eficace în lupta împotriva dezinformării decât orice soluție pur tehnologică.
Pentru a face față acestei situații, oamenii obișnuiți pot lua câteva măsuri elementare. Limitarea timpului online și recunoașterea existenței unei lumi dincolo de mediul virtual sunt esențiale pentru o utilizare responsabilă a tehnologiei. Acest lucru poate fi realizat prin practicarea unei igiene digitale, care implică, în primul rând, o abordare conștientă și moderată a timpului petrecut online.
Pe de altă parte, platformele respective pun la dispoziție unelte care permit personalizarea într-o anumită măsură a conținutului vizualizat. Este posibilă efectuarea unor ajustări, după cum afirmă reprezentanții platformelor:
„Dacă feed-ul este dominat de conținut de slabă calitate, acesta poate fi ajustat”
.
Este esențial ca oamenii să acorde atenție semnalelor contextuale atunci când evaluează conținutul online. Pentru a face acest lucru, trebuie să se ia în considerare cine este autorul postării și dacă există alte surse care confirmă informația prezentată. De asemenea, detaliile specifice care indică experiența umană sau autenticitatea unei situații pot juca un rol crucial în evaluarea conținutului.
COMENTARII / 0