AI-scribes missen mogelijk het verhaal van de patiënt

AI-tools die automatisch aantekeningen maken tijdens gesprekken tussen zorgprofessionals en patiënten kunnen de administratieve last verminderen, maar brengen ook risico’s met zich mee. Zo kunnen belangrijke onderdelen van het verhaal en de ervaringen van patiënten verloren gaan. Ook bestaat het risico dat zorgprofessionals bepaalde vaardigheden minder ontwikkelen of gebruiken. Dat blijkt uit een review van onderzoekers van de University of Edinburgh.

De onderzoekers analyseerden 27 wetenschappelijke en medische publicaties over zogenoemde ambient AI scribes. Deze systemen combineren spraak-naar-teksttechnologie met AI om gesprekken tijdens consulten vast te leggen en samen te vatten. Volgens de onderzoekers gebruikt inmiddels ongeveer 40 procent van de Britse huisartsen dergelijke technologie.

Patiëntervaring raakt uit beeld

Hoewel AI-scribes goed kunnen vastleggen wat patiënten zeggen, missen ze mogelijk informatie die niet rechtstreeks in woorden wordt uitgedrukt. Denk aan gezichtsuitdrukkingen, gebaren en emotionele reacties. Bovendien leggen AI-samenvattingen volgens de review vaak de nadruk op klinische informatie, waardoor het persoonlijke verhaal van de patiënt en diens ervaring met een aandoening minder aandacht kunnen krijgen.

Ook kan het opnemen en verwerken van gesprekken invloed hebben op wat patiënten vertellen. Zij kunnen terughoudender worden met gevoelige informatie over bijvoorbeeld psychische problemen, middelengebruik of huiselijk geweld wanneer ze weten dat AI het gesprek registreert.

Onderzoeker Lucas Seuren waarschuwt dat dit vooral nadelig kan uitpakken voor mensen die al te maken hebben met marginalisering binnen zorg en ondersteuning. De onderzoekers benadrukken daarom dat AI-systemen de stem van de patiënt moeten behouden in plaats van deze te overschrijven.

Risico op verlies van vaardigheden

De gevolgen beperken zich niet tot patiënten. Zelf aantekeningen maken helpt zorgprofessionals om informatie te verwerken, klinisch te redeneren en te reflecteren op wat een patiënt heeft verteld. Wanneer deze taak grotendeels aan AI wordt overgelaten, kan sprake zijn van ‘cognitive offloading’: het uitbesteden van mentale inspanning aan technologie.

Dat kan voordelen bieden. Zorgprofessionals hoeven minder aandacht aan administratie te besteden en krijgen daardoor mogelijk meer ruimte voor het gesprek met de patiënt en complexe klinische taken. Tegelijkertijd kan afhankelijkheid van AI het herinneren van informatie en de ontwikkeling van vaardigheden verminderen. In de onderzochte literatuur melden zorgprofessionals situaties waarin zij hun eigen, door AI gegenereerde aantekeningen niet herkenden of zich een patiënt bij een volgend consult minder goed herinnerden.

Meer onderzoek naar langdurig gebruik

Volgens de onderzoekers is meer onderzoek nodig naar de gevolgen van langdurig gebruik van ambient AI-scribes en naar verschillen tussen specifieke zorgomgevingen. Dat geldt met name wanneer systemen worden toegepast in landen of zorgstelsels die verschillen van de omgeving waarin de technologie oorspronkelijk is ontwikkeld.

De review betekent volgens de auteurs niet dat AI-scribes geen waarde hebben. De technologie kan administratieve werkzaamheden ondersteunen, maar bij grootschalige invoering moet niet alleen worden gekeken naar tijdwinst. Ook de invloed op de patiënt-zorgverlenerrelatie, klinisch redeneren, vaardigheden en de manier waarop ervaringen van patiënten worden vastgelegd, verdient nadrukkelijk aandacht.

Te snelle implementatie AI-scribes?

AI-scribes worden in de Verenigde Staten snel onderdeel van de dagelijkse zorg. Naar schatting heeft inmiddels ongeveer een derde van de zorgverleners toegang tot deze technologie. Zorgorganisaties zien daarbij niet alleen mogelijke administratieve tijdwinst, maar ook voordelen voor het werkplezier en het behoud van artsen.

Tegelijkertijd zijn belangrijke gevolgen dus nog onvoldoende duidelijk. Zo is nog niet bekend of AI-scribes daadwerkelijk leiden tot betere zorg en gezondheidsuitkomsten, of dat de vrijgekomen tijd vooral wordt gebruikt om meer patiënten te behandelen. Ook kunnen uitgebreidere AI-notities gevolgen hebben voor declaraties en zorgkosten.

Hoewel AI-gegenereerde verslagen vaak minstens zo volledig zijn als traditionele notities, blijven fouten en hallucinaties mogelijk. Menselijke controle blijft daarom noodzakelijk. Daarnaast kan het gebruik van AI-scribes de communicatie tijdens consulten veranderen, bijvoorbeeld doordat artsen bevindingen vaker hardop moeten benoemen. Dat benadrukt het belang van transparantie, toestemming en zorgvuldig gebruik, zodat efficiencywinst niet ten koste gaat van vertrouwen, klinische aandacht of de relatie met de patiënt.