O investigare realizată în Regatul Unit indică faptul că, în apneea obstructivă în somn, asistenții virtuali au abandonat sugestia unei evaluări medicale în peste o treime din discuțiile în care
„pacientul”
a refuzat investigațiile.
Citește șiDe la oarbă la cockpit: femeia cu peste 200 de ore de zbor
În situațiile cu risc crescut, eficiența a fost și mai scăzută.
Chatboturile AI s-au stabilit ca prim loc pentru numeroși utilizatori în căutarea de soluții atunci când se manifestă o problemă de sănătate.
Atunci când chatbotul deține cunoștințe, însă pacientul intervine.
Chiar dacă fără programare și fără o discuție cu un medic, poți obține un răspuns la o întrebare despre un simptom în doar câteva secunde.
Un studiu recent evidențiază o problemă semnificativă: cum reacționează un chatbot atunci când, de la început, are cunoștința exactă a recomandării corecte, iar utilizatorul încearcă să-l convingă că nu are nevoie de un medic?
În Marea Britanie, cercetătorii au examinat această problemă prin dialoguri virtuale, bazându-se pe scenarii modelate după sindromul de apnee obstructivă în somn (SAOS).
Concluziile au fost expuse în cadrul Congresului Societății Europene de Pneumologie – ERS 2026, organizat în Barcelona.
Se au înregistrat 700 de interacțiuni cu cinci chatboturi.
Echipa de cercetare a elaborat șapte modele ipotetice ale pacienților.
Toate manifestau semne și factori de risc, ceea ce justifica o evaluare medicală; iar, când exista o indicație, se realiză un test de somn.
În cadrul studiului, cercetătorii au evaluat cinci chatboturi disponibile gratuit: ChatGPT, Google Gemini, Claude, DeepSeek și Grok.
În ansamblu, s-au desfășurat 700 de discuții.
Toate cele șapte situații clinice au fost prezentate în două variante diferite. Detaliile medicale au rămas identice, iar singura schimbare a constat în atitudinea pacientului.
Chatboturile își ajustează răspunsurile în funcție de modul în care pacientul reacționează.
În primul scenariu, pacientul a acceptat sfatul de se consulta cu medicul.
În cea de-a doua fază, pacientul a diminuat severitatea simptomelor, declarând că afecțiunea nu era de o gravitate suficientă și a refuzat efectuarea investigațiilor.
cercetătorii au putut observa dacă chatbotul modifică răspunsul când utilizatorul insistă pe o anumită interpretare, deși datele medicale rămân identice.
Atunci când pacientul colaborează, chatboturile sugerează o evaluare adecvată.
În fiecare dintre cele 350 de interacțiuni în care pacientul fictiv a acceptat sugestia, roboții de dialog au păstrat recomandarea adecvată pentru consultarea unui specialist.
Chatboturile și scenariile cu risc ridicat
Starea s-a schimbat când pacientul a pus sub semnul întrebării necesitatea investigațiilor.
Din totalul de 350 de interacțiuni, corectitudinea recomandării a fost menținută în 225 de situații, ceea ce reprezintă 64%.
În peste o treime din discuții, chatbotul a schimbat sfatul, deși informațiile medicale primite au rămas aceleași.
Problema a dobândit o vizibilitate sporită în scenariile cu risc ridicat.
Într-un caz etichetat ca indicativ pentru o formă gravă de apnee obstructivă în somn, chatboturile au menținut sugestia de evaluare în doar 22% din dialogurile în care pacientul a refuzat investigațiile.
Într-un alt context, pacientul a declarat că se aflau deja în somn la volan. Acesta reprezenta un semn semnificativ al somnolenței excesive și al riscului asociat.
Chiar și în această situație, când pacientul a încercat să subestimeze problema, chatboturile au sugerat evaluarea adecvată în doar 32% dintre discuții.
În anumite dintre răspunsurile inadecvate, modelele au omis chiar și riscul asociat cu condusul.
De la indicațiile medicului până la sugestii privind stilul de viață
Echipa de cercetare a constatat și o altă modificare.
În funcție de tipul de chatbot, în jur de 25% până la 50% dintre discuțiile cu pacienți ce subestimează simptomele, sugestia de a efectua o evaluare medicală a dispărut și a fost înlocuită cu sfaturi privind stilul de viață.
În acest context se evidențiază, într-adevăr, una dintre problemele majore identificate de cercetare.
Chatboturile nu au greșit de la început. În faza inițială a dialogului, au recunoscut corect situația și au sugerat efectuarea unei evaluări medicale.
Vulnerabilitatea a fost detectată ulterior, în momentul în care utilizatorul a ridicat o contestare la recomandare.
Modelul a reușit să ajusteze răspunsul în funcție de poziția utilizatorului, în ciuda faptului că datele clinice nu s-au modificat.
În studiile privind inteligența artificială, acest tip de comportament se leagă de termenul sycophancy, care descrie tendința unui model de a se supune în exces opiniilor sau preferințelor utilizatorului, chiar și atunci când acestea contrazic informațiile disponibile.
Ce importanță are apneea de somn?
Apneea obstructivă în somn generează pauze frecvente ale respirației în timpul nopții și poate determina o somnolență intensă în timpul zilei.
În lipsă de diagnostic și tratament, această afecțiune este legată de un risc crescut de a dezvolta hipertensiune arterială, accident vascular cerebral, boli cardiovasculare și diabet zaharat de tip 2.
Importanța acestei probleme crește pe măsură ce boala este adesea frecvent nedezvăluită. Conform cercetărilor, 80%-90% din cazurile moderate sau severe rămân neidentificate.
Procesele de diagnosticare exigen o examinare clinică și, dacă este recomandat, o analiza somnului. Această analiză monitorizează respirația și diverse alte măsurători în timpul somnului.
Astfel, în cazul unui pacient cu simptome sugestive, un răspuns de tipul
„încearcă să dormi mai bine și să faci mai multă mișcare”
ar putea fi inadecvat dacă înlocuiește sfatul de a solicita o evaluare medicală.
Studiul nu a implicat pacienți reali.
Specialiștii subliniază că concluziile trebuie analizate în cadrul specific.
Această cercetare nu a urmărit pacienți reali și nu dovedește că utilizarea chatboturilor cauzează, în practică, întârzierea diagnosticului sau a tratamentului.
S-au creat profiluri fictive și dialoguri controlate, special concepute pentru a evalua modul în care modelele răspund la utilizatori care subestimează simptomele sau se opun sfaturilor medicale.
Totuși, rezultatele indică o posibilă problemă de siguranță care merită analizată separat de simpla întrebare „a dat AI răspunsul corect?”.
Chatbotul poate recunoaște corect problema la început, însă, după ce utilizatorul îl contesta, la câteva replici mai târziu, poate furniza un răspuns inadecvat.
În contextul cercetărilor, acest aspect reprezintă un motiv prin care evaluarea securității chatboturilor medicale nu trebuie să se restrângă la întrebări explicite și răspunsuri izolate.
COMENTARII / 0