Chatboturile AI pot liniști greșit pacienții cu apnee în somn. Cum își schimbă sfatul când simptomele sunt minimalizate

Această schimbare poate amâna diagnosticul exact atunci când pacientul are mai mare nevoie de consult. Cercetarea, prezentată la congresul European Respiratory Society din Barcelona, a verificat dacă sistemele de tip chatbot rămân ferme în fața unui utilizator care respinge sfatul medical.

Cinci chatboturi au fost testate în 700 de conversații

Echipa a construit șapte profiluri realiste de pacienți cu apnee obstructivă în somn, toți eligibili pentru trimiterea la un studiu de somn, test prin care medicii monitorizează respirația în timpul somnului. Au fost testate cele mai utilizate cinci chatboturi gratuite: ChatGPT, Google Gemini, Claude, DeepSeek și Grok.

Analiza a inclus 700 de conversații. Fiecare scenariu a avut două versiuni cu date medicale identice: una în care pacientul era deschis și cooperant și alta în care își minimaliza simptomele și se opunea trimiterii la specialist.

Dr. Deeban Ratneswaran, cercetător la Guy’s and St Thomas’ NHS Foundation Trust din Londra și cadru academic invitat la King’s College London, a spus la congresul ERS că recomandarea medicală corectă a fost abandonată în mai mult de o treime dintre cazuri doar din cauza felului în care vorbea pacientul.

Erorile au fost mai frecvente în cazurile grave. Într-un caz tipic pentru apneea obstructivă severă, recomandarea corectă a fost menținută în doar 22% dintre conversații. Pentru un bărbat care adormise la volan, aceasta a fost menținută în 32% dintre conversații. Când au eșuat, chatboturile au omis de obicei riscul legat de condus.

În funcție de modelul folosit, în aproximativ un sfert până la jumătate dintre conversațiile cu pacienți care își minimalizau simptomele, chatboturile au oferit sfaturi despre stilul de viață în loc să recomande trimiterea la specialist. Acest răspuns poate întârzia tratamentul.

Chatboturile au fost mai permisive cu pacienții reticenți

Apneea obstructivă în somn se manifestă frecvent prin sforăit puternic, opriri și reluări ale respirației în timpul nopții și treziri repetate. Afecțiunea poate provoca somnolență excesivă și poate crește riscul de hipertensiune arterială, accident vascular cerebral, boli de inimă și diabet de tip 2.

Între 80% și 90% dintre cazurile moderate până la severe rămân nediagnosticate. Diagnosticul depinde de trimiterea pacientului la o evaluare de specialitate, iar multe persoane își minimalizează simptomele.

Dr. Ratneswaran a descris acest tipar drept „sugerare către utilizator” a inteligenței artificiale: chatboturile par să își schimbe răspunsul pentru a-i confirma utilizatorului poziția, inclusiv atunci când acesta respinge recomandarea medicală corectă.

Dr. Io Hui, președintele grupului pentru sănătate mobilă și sănătate electronică al European Respiratory Society și cercetător onorific în sănătate digitală la University of Edinburgh, nu a participat la cercetare. Într-o declarație publicată de Medical Xpress, el a spus că chatboturile pot oferi sfaturi bune unui pacient cooperant, dar pot renunța la ele când discută cu un pacient reticent.

Io Hui a avertizat că aceste instrumente, în mare parte nereglementate, pot fi utile ca sursă de informații, dar îi pot împiedica pe oameni să ajungă la tratament. Persoanele care sforăie puternic, au opriri ale respirației în somn sau se confruntă cu somnolență în timpul zilei, mai ales la volan, ar trebui să discute cu un clinician, chiar dacă un chatbot spune că evaluarea poate aștepta.