AI-chatbots kunnen patiënten met mogelijke slaapapneu onterecht geruststellen wanneer zij hun klachten bagatelliseren of een verwijzing naar een specialist afhouden. In een studie bleef het juiste advies om medische hulp te zoeken in dergelijke gesprekken slechts in 64 procent van de gevallen overeind. Bij patiënten die wel openstonden voor een verwijzing, gaven de chatbots in alle gevallen het juiste advies.
De resultaten zijn gepresenteerd tijdens het European Respiratory Society (ERS) Congress in Barcelona. Volgens de onderzoekers laat de studie zien dat niet alleen de medische kennis van AI-chatbots belangrijk is, maar ook de manier waarop ze reageren wanneer gebruikers een aanvankelijk advies ter discussie stellen.
Obstructieve slaapapneu (OSA) gaat onder meer gepaard met luid snurken en herhaaldelijke ademstops tijdens de slaap. De aandoening kan overmatige slaperigheid veroorzaken en wordt in verband gebracht met een verhoogd risico op onder meer hoge bloeddruk, beroerte, hartziekten en diabetes type 2. Veel mensen met OSA weten niet dat ze de aandoening hebben.
Zelfde klachten, andere houding
Het onderzoek werd geleid door Deeban Ratneswaran van Guy's and St Thomas' NHS Foundation Trust en King's College London. Zijn team ontwikkelde zeven fictieve maar realistische patiëntprofielen met symptomen die volgens de gebruikte criteria aanleiding gaven voor verwijzing voor slaaponderzoek.
Vervolgens voerden de onderzoekers 700 gesprekken met vijf veelgebruikte gratis AI-chatbots: ChatGPT, Google Gemini, Claude, DeepSeek en Grok. Ieder scenario werd in twee varianten getest. De medische informatie bleef identiek, maar de houding van de patiënt veranderde. In de ene versie werkte de patiënt mee, in de andere bagatelliseerde deze de symptomen en verzette hij zich tegen een verwijzing.
Bij de meewerkende patiënten adviseerden de chatbots in alle 350 gesprekken correct om specialistische beoordeling te zoeken. Bij de terughoudende patiënten gebeurde dat nog in 225 van de 350 gesprekken, oftewel 64 procent. Juist bij ernstige situaties bleek de terughoudendheid van de patiënt veel invloed te hebben. Bij een klassiek ernstig geval bleef het verwijzingsadvies slechts in 22 procent van de gesprekken overeind. Bij een patiënt die achter het stuur al in slaap was gevallen, was dat 32 procent. In mislukte gesprekken werd het risico van autorijden bovendien vaak niet benoemd.
Risico op uitstel van zorg
Afhankelijk van het geteste AI-model gaf de chatbot in ongeveer een kwart tot de helft van de gesprekken met terughoudende patiënten leefstijladviezen in plaats van een verwijzing te adviseren. Daarmee kan een chatbot volgens de onderzoekers onbedoeld bijdragen aan uitstel van diagnostiek en behandeling.
Het probleem zit volgens Ratneswaran niet alleen in de inhoudelijke medische kennis van de systemen. Chatbots kunnen geneigd zijn zich aan te passen aan wat een gebruiker graag wil horen. Dit verschijnsel wordt ook wel 'AI sycophancy' genoemd. Io Hui, voorzitter van de ERS Group on M-health and e-health en niet betrokken bij het onderzoek, benadrukt daarom het belang van realistische tests. Een chatbot kan bij een ideale, meewerkende patiënt correct adviseren, maar van dat advies afwijken zodra een gebruiker weerstand biedt.
De onderzoekers waarschuwen daarom dat geruststelling door een chatbot geen vervanging is voor medisch advies. Mensen die luid snurken, ademstops tijdens de slaap ervaren of overdag ernstig slaperig zijn, zeker tijdens het autorijden, moeten hun klachten met een arts bespreken.
Slaapapneu diagnostiek
Begin dit jaar ontwikkelden onderzoekers een smartphone-gebaseerd systeem oor vroege detectie en monitoring van slaapapneu na een beroerte. De technologie combineert ingebouwde sensoren van een smartphone met een draadloze pulsoximeter. Tijdens de slaap worden onder meer geluid, beweging en zuurstofsaturatie geregistreerd. Uit deze gegevens worden multimodale digitale biomarkers afgeleid die informatie geven over ademhaling, lichaamshouding en zuurstofopname.
Volgens onderzoeksleider Raimon Jané kan deze laagdrempelige, mobiele aanpak de detectie en monitoring van slaapapneu verbeteren. Daarmee kan de technologie mogelijk bijdragen aan een betere behandeling en het functionele herstel van patiënten na een beroerte.
Referenties
Voeg ICT&health toe aan Google
Toon meer content van ICT&health in Google Zoeken.
