Chatboții IA despre cancer oferă răspunsuri periculoase pacienților

Rezultatele unui studiu recent, publicat în BMJ Open, o revistă științifică cu acces liber editată de grupul British Medical Journal, unul dintre cele mai respectate...

Rezultatele unui studiu recent, publicat în BMJ Open, o revistă științifică cu acces liber editată de grupul British Medical Journal, unul dintre cele mai respectate grupuri de presă medicală la nivel global, arată că erorile sau informațiile incomplete sunt prezente în aproape jumătate din răspunsurile oferite de asistenții virtuali care utilizează inteligența artificială pentru a discuta despre tratamentul cancerului.

Publicația prezintă cercetări originale care au fost supuse evaluării unor experți independenți.

O concluzie alarmantă a fost trasă de cercetători: sistemele respective au potențialul de a îndruma pacienții către abordări terapeutice neconvenționale, care nu au fost validate, în locul terapiilor medicale consacrate.

Citește șiSemne de infarct: cardiolog din Sibiu avertizează: nu așteptați, sunați 112

Cu o reputație solidă în domeniul cercetării oncologice, Lundquist Institute for Biomedical Innovation este o instituție de referință în acestă arie. Cercetările desfășurate aici au scopul de a avansa cunoașterea și tratamentul bolilor oncologice.

Institutul Lundquist Institute for Biomedical Innovation este recunoscut pentru cercetări în oncologie, boli infecțioase și sănătate publică. Cercetătorii de la Institutul Lundquist pentru Inovație Biomedicală, situat în cadrul Centrului Medical Harbor-UCLA, au efectuat un studiu care a evaluat performanța unora dintre cele mai populare platforme de inteligență artificială la nivel global.
Printre platformele testate se numără: ChatGPT de la OpenAI, Gemini de la Google, Meta AI, DeepSeek și Grok de la xAI.

Institutul Lundquist pentru Inovare Biomedicală funcționează ca un centru de cercetare medicală independent, fiind afiliat în mod oficial la Centrul Medical Harbor-UCLA din Los Angeles. Domeniul său de specializare include efectuarea de studii clinice și translaționale.

Universitatea California are o colaborare strânsă cu acest institut, care se remarcă prin contribuții semnificative în domeniile oncologiei, bolilor infecțioase și sănătății publice.

Se consideră că aproximativ jumătate din răspunsurile oferite de chatboții cu inteligență artificială referitoare la cancer sunt problematice, existând chiar și unele foarte îngrijorătoare.

Nu ești avertizat să nu primești niciodată tratament

nu este un sfat pe care l-ai primi, însă s-ar putea să primești informații care spun că chimioterapia nu este o opțiune bună pentru tine.

Evaluarea efectuată de experți în oncologie a arătat că 30% dintre răspunsurile oferite de aceste sisteme au fost clasificate ca fiind „parțial problematice”, adică în general exacte, însă incomplete. Pe de altă parte, 19,6% dintre răspunsuri au fost considerate „foarte problematice”, prezentând erori semnificative și permițând interpretări subiective.

În urma evaluării capacităților chatboturilor, s-a observat că jumătate dintre răspunsurile oferite cu privire la cancer prezintă anumite probleme. În cadrul acestui studiu, pacienții au primit sfaturi de la chatboturi, printre care și recomandarea de a renunța la chimioterapie.

Nu se oferă suficiente informații

a declarat un expert, sugerând că aceste chatboturi nu sunt pregătite să ofere asistență adecvată. Această cercetare subliniază necesitatea unei evaluări atente a acurateții informațiilor oferite de chatboturi, în special în domenii critice precum cel al sănătății. Astfel de sisteme ar putea fi îmbunătățite pentru a furniza răspunsuri mai precise și mai utile pacienților.

Sistemele de inteligență artificială au fost testate cu întrebări menite să le determine să ofere răspunsuri eronate, referitoare la subiecte des vehiculate în dezbaterile publice, precum efectele nocive ale tehnologiei 5G și al antiperspirantelor asupra cancerului, sau siguranța steroizilor anabolizanți și riscurile asociate vaccinurilor.

Un model alarmant a ieșit la iveală din rezultatele obținute, conform cărora o proporție semnificativă de răspunsuri oferite de chatboții de inteligență artificială legate de cancer ridică probleme.

În discuții despre metode terapeutice alternative prezentate ca fiind superioare chimioterapiei, chatboturile au furnizat inițial răspunsuri exacte, atragând atenția că aceste alternative nu se bazează pe cercetări științifice validate.

Nu sunt susținute de dovezi științifice

a fost avertismentul inițial oferit de chatboturi.

Terapii alternative împotriva cancerului au fost sugerate de chatboții de inteligiență artificială, printre care se numără și acupunctura, medicina pe bază de plante și anumite diete cu presupuse efecte anticancer. În anumite situații, aceste chatbot-uri au oferit chiar și referințe către clinici care promovează astfel de tratamente și resping chimioterapia.

Se consideră că algoritmii se află într-o poziție delicată, fiind descriși drept „Echilibrul fals”, o capcană care necesită atenție sporită.

O îngrijorare semnificativă a fost ridicată de cercetători cu privire la modul în care platformele respective prezintă informații, acestea fiind acuzate că promovează un „echilibru fals” prin egalizarea importanței surselor științifice validate cu cele nevalidate, cum ar fi bloguri, forumuri sau postări din social media.

Tratamentele convenționale riscă să fie compromise de o strategie care, deși aparent neutră, poate să conducă la o percepție eronată în rândul pacienților și să îi facă să se îndepărteze de terapiile validate din punct de vedere medical.

Concluziile specialiștilor care au evaluat chatboturile arată că acestea au performat slab în sectoarele medicale cu un nivel ridicat de dezinformare. Fără o educație publică adecvată și o supraveghere eficientă, utilizarea acestor chatboturi ar putea accentua, în loc de a diminua, proliferarea informațiilor incorecte, avertizează autorii studiului.

Un sfert dintre americani caută sfaturi medicale la chatboturi.

Circumstanțele care înconjoară aceste descoperiri sunt cu atât mai critice, având în vedere că utilizarea inteligenței artificiale pentru furnizarea de informații medicale crește într-un ritm alert.

Rezultatele unui studiu realizat de Gallup relevă că aproape un sfert dintre adulții din Statele Unite utilizează aceste instrumente pentru a obține consultanță medicală, fie din dorința de a primi răspunsuri rapide, fie din cauza limitărilor în ceea ce privește accesul la serviciile de sănătate.

În ciuda progreselor, încrederea în răspunsurile oferite de inteligența artificială încă se confruntă cu limite.

În ciuda progreselor, încrederea utilizatorilor rămâne relativ scăzută, doar aproximativ trei zecimi dintre aceștia declarând că au încredere deplină în informațiile furnizate.
Ceilalți utilizatori, care reprezintă majoritatea, încă manifestă anumite rezerve în ceea ce privește răspunsurile oferite.

Experții trag un semnal de alarmă cu privire la alternative terapeutice și suplimente promovate pe internet, care pot fi periculoase pentru sănătate.
Astfel de produse nedovedite științific și neevaluate de către organismele de reglementare pot provoca efecte secundare grave, inclusiv afectarea ficatului sau perturbarea metabolismului.

De asemenea, folosirea acestora poate duce la o întârziere în ceea ce privește accesul la terapiile consacrate, cu repercusiuni potențial letale.

Pacienții au raportat situații în care răspunsurile inexacte oferite de chatboții de inteligență artificială au creat îngrijorare suplimentară, inclusiv prin evaluări incorecte ale evoluției bolii.

COMENTARII / 0