Inteligența artificială înșeală utilizatorii cu sfaturi proaste pentru lingușeală

Un studiu recent, care a apărut joi în prestigioasa revistă Science, a supus unui test riguros un număr de 11 sisteme de inteligență artificială de...

Un studiu recent, care a apărut joi în prestigioasa revistă Science, a supus unui test riguros un număr de 11 sisteme de inteligență artificială de înaltă performanță, constatând că toate acestea manifestă lingușire în diferite proporții – adică un tip de comportament caracterizat printr-o excesivă bunăvoință și afirmare, după cum relatează AP.

Încrederea excesivă în soluțiile digitale inteligența artificială îi determină pe oameni să o favorizeze chiar și atunci când recomandările oferite sunt lipsite de fundamentare. Un fenomen îngrijorător este acela că aceste sisteme nu numai că propun sfaturi proaste, dar și că utilizatorii tind să le acorde o încredere oarbă, mai ales atunci când

chatboții

Citește șiCum arată bolidul cu motor V10 pe care șoferii ar trebui să-l conducă în genunchi. A fost creat de un inginer din Uruguay, școlit în Olanda

explică raționamentul din spatele sugestiilor lor.

Un efect nedorit rezultă din această abordare, favorizând astfel persistenta lingușirii: tocmai trăsătura care conduce la prejudicii încurajează și mai multă interacțiune, potrivit cercetării realizate sub coordonarea specialiștilor de la Universitatea Stanford.

Un studiu recent a arătat că o defecțiune tehnologică asociată deja cu anumite cazuri de comportament aberant și suicidal în rândul grupurilor vulnerabile este de fapt foarte răspândită în interacțiunile cotidiene dintre oameni și chatboții. Această defecțiune este destul de ascunsă pentru a putea trece neobservată, constituind un risc major pentru tinerii care se bazează pe inteligența artificială pentru a primi răspunsuri la numeroasele întrebări ale vieții, pe durata perioadei de formare a creierului și a normelor lor sociale.

Tehnologia inteligenței artificiale are tendința de a emite aprobări mai frecvent decât ființele umane.

În cadrul unui studiu, s-a analizat modul în care Anthropic, Google, Meta și OpenAI au răspuns la întrebări, comparându-i cu sfaturile oferite de utilizatorii obișnuiți pe un forum de consultanță de pe Reddit.

Un studiu recent a arătat că chatbot-urile cu inteligență artificială au tendința de a valida acțiunile utilizatorilor de 49% mai frecvent decât oamenii, inclusiv în situațiile în care utilizatorii solicită informații despre activități îndoielnice, cum ar fi acte ilegale, comportamente sociale necorespunzătoare și alte acțiuni dăunătoare.

COMENTARII / 0