Chatboturile AI ne forțează să renunțăm la „nu știu” în fiecare zi

Una dintre cele importante abilități cognitive pe care le avem este să recunoaștem când nu deținem informația. Capacitatea de a spune „nu știu” nu reprezintă un semn de ignoranță, ci un mecanism prin care ne protejăm de concluzii eronate și ne afirmăm limitele.

Un nou studiu, efectuat de cercetători proveniți din cadrul universităților Milano-Bicocca, École Normale Supérieure și Universitatea Sapienza, indică faptul că simpla disponibilitate a un chatbot AI poate deteriora în mod precis acel mecanism.

În cadrul a 5 studii, la care au participat mai mult de 3,000 de persoane, cercetătorii au urmărit să determine dacă inteligența artificială modifică criteriul pe care oamenii îl folosesc pentru a decide dacă pot răspunde la o întrebare.

Citește șiAxis BootCamp 2026: demonstrații tehnice și experiență practică la Snagov

Cum reacționăm când nu deținem informația, iar AI generează halucinații?

În cadrul competiției, participanții au fost supuși unor întrebări dificile și, de fiecare dată, le era oferită opțiunea de a răspunde

„nu știu”

. În schimb, un grup din rândul lor a beneficiat de acces la răspunsurile furnizate de un chatbot AI.

Pentru a separa impactul psihologic al prezenței AI, cercetătorii au proiectat experimentul într-un mod neobișnuit.

Întrebările se axau pe aspecte vizuale extrem de detaliate din filme, precum culoarea echipamentului din Bend It Like Beckham, informații pe care modelele lingvistice au tendința de a le crea fictiv.

Facem greșeli, însă le abordăm cu încredere.

Au selectat cu scopul deliberat un model AI ce erau în mod constant erori aproape de fiecare dată, pentru ca orice credință acordată răspunsurilor sale să nu poată fi justificată prin faptul că participanții se bazau pe o sursă considerată în mod obișnuit mai competentă.

Fără intervenția AI, 44% dintre participanți au ales să răspundă „nu știu”. După ce au avut acces la un chatbot, acea proporție a scăzut la doar 3%. În același timp, calitatea răspunsurilor s-a deteriorat, iar încrederea în propriile răspunsuri a crescut aproape de două ori. Oamenii au preferat să ofere un răspuns mai frecvent, au greșit în număr mai mare și au devenit mult mai convinsi că erau corecți.

„Oamenii au devenit mult mai slabi la această sarcină: acuratețea lor a fost de doar o treime față de cei fără AI, însă erau de două ori mai încrezători în răspunsurile lor”, a explicat Valerio Capraro, profesor asociat la Universitatea Milano-Bicocca și unul dintre autorii studiului.

Metacogniția

Până în prezent, majoritatea studiilor privind impactul chatboturilor bazate pe inteligență artificială s-au axat pe aspecte diferite. Alte cercetări au evidențiat că utilizatorii tind să delegheze din ce în ce mai mult activitatea mentală, permițând inteligenței artificiale să proceseze anumite sarcini în locul lor. Alte studii avertizează că utilizarea repetată a inteligenței artificiale poate, pe termen lung, conduce la scăderea unor abilități.

În noul studiu, cercetătorii analizează modul în care AI-ul influențează metacogniția noastră, adică abilitatea de a evalua propriile cunoștințe și de a determina când dispunem de informații suficiente pentru a răspunde și când nu.

Metacogniția reprezintă mecanismul prin care identificăm diferențele dintre „știu”, „cred că știu” și „nu știu”. Fără el, riscăm să cădem în capcana erorilor și să tragem concluzii bazate pe încredere excesivă.

În lipsa acestuia, există riscul ca și noi să repetăm exact același comportament pe care chatboturile AI îl manifestă adesea: să

halucinăm

răspunsuri. Astfel, vom oferi soluții eronate, susținute de încrederea pe care o emană ChatGPT.

Îndoielile create de răspunsurile inteligenței artificiale

Autorii studiului susțin că publicul nu este convingut de AI pentru că acesta este întotdeauna corect, ci pentru că răspunsurile sale sună convingător.

Un chatbot produce texte fără întreruperi, cu claritate și continuitate. În schimb, mintea noastră poate interpreta această apariție de fiabilitate ca pe o confirmare a acurateței informației. În loc să verificăm veridicitatea unui răspuns, îl acceptăm pentru că este articulat și credibil.

De ce reacționează roboții conversaționali AI chiar și atunci când nu dețin cunoștințe?

O persoană poate amâna judecata și poate spune „nu știu”. În schimb, un model lingvistic este proiectat să ofere un răspuns la aproape orice întrebare. Chiar dacă nu dispune de informații suficiente, el generează cea mai probabilă continuare a textului și nu poate evalua sincer propriile limite.

Când ne obișnuim să punem în sarcină un sistem care aproape niciodată nu se oprește pentru a recunoaște incertitudinea, există riscul să începem să facem exact același lucru.

cercetarea evidențiază faptul că, în anumite situații, prezența AI a determinat indivizii să abandonăm răspunsurile pe care le-ar fi oferit corect dacă ar fi apelat la propria lor judecată.

Chiar dacă este greșit, răspunsul generat de AI îl acceptăm cu mai multă ușurință.

Chatbotul nu a doar umplut lacunele din cunoștințele lor, ci uneori a înlocuit propriul lor raționament cu unul incorect, dar exprimat cu suficientă încredere pentru a părea mai credibil.

indivizii manifestă un grad considerabil de scepticism în raport cu recomandările altora, ceea ce este fascinant.

În mod obișnuit, când o persoană ne contesta, nu acceptăm de îndată opinia sa, ci, în cea mai favorabilă situație, o evaluăm și conservăm o porțiune din propria noastră judecată. În majoritatea cazurilor, îl respingem în totalitate.

În cadrul testului prezent, s-a observat un efect aproape opus. În ciuda faptului că soluția generată de AI se opunea convingerilor inițiale ale participanților, aceasta nu a determinat o majorare a reticenței lor; dimpotrivă, a amplificat certitudinea că răspunsul final reprezintă adevărul.