De werking en impact van ambient AI-scribes in de zorg hangen sterk af van de context waarin ze worden gebruikt. Het type consult, bestaande werkprocessen en de organisatie spelen allemaal een rol. Ook blijkt de verwachte tijdswinst niet vanzelfsprekend: het controleren van door AI gegenereerde verslagen kost zorgverleners eveneens tijd. Dat zijn enkele eerste bevindingen uit onderzoek van het RIGH:T-consortium. RIGH:T werkt aan een nationaal validatieraamwerk voor generatieve AI in de zorg, met ambient AI-scribes als eerste use case.
Zo'n AI-assistent luistert mee tijdens een gesprek tussen zorgverlener en patiënt en maakt vervolgens bijvoorbeeld automatisch een conceptverslag voor het patiëntendossier. Het raamwerk moet zorgorganisaties helpen bepalen wanneer en hoe dergelijke toepassingen veilig en verantwoord kunnen worden ingezet.
Geen standaardaanpak
Een belangrijke tussentijdse conclusie is dat er bij ambient AI-scribes geen standaardaanpak bestaat. "Er is geen one size fits all", stelt Imke Bloemen, promovenda bij Datahub Erasmus MC, in een bericht op de website van ZonMW. "Juist daarom moet je in de eigen praktijk testen en valideren."
Uit ethische workshops in het kader van het onderzoek komt een vergelijkbaar beeld naar voren. AI kan betere verslaglegging ondersteunen, zorgprofessionals helpen bij een hoge werkdruk en mogelijk bijdragen aan betere zorg. Tegelijkertijd ontstaan nieuwe risico's. Eén zo'n risico is 'deskilling': zorgprofessionals gebruiken bepaalde vaardigheden mogelijk minder actief doordat AI taken overneemt. Ook kan een zogenoemd chilling effect optreden, waarbij patiënten en zorgverleners hun gedrag of manier van communiceren aanpassen omdat het gesprek wordt opgenomen.
Daarnaast blijkt de veronderstelde tijdswinst niet altijd daadwerkelijk te worden gerealiseerd. "Veel zorgverleners verwachten tijd te winnen, maar in de praktijk kost het controleren van AI-output ook tijd", aldus Bloemen. Volgens haar moet daarom worden gekeken waar de technologie daadwerkelijk waarde toevoegt en moeten ook de risico's meetbaar worden gemaakt.
Drie domeinen
Het validatieraamwerk moet voor zowel toegevoegde waarde als risico's een gemeenschappelijke evaluatiestandaard bieden. Daarbij wordt niet alleen gekeken naar de technische prestaties van generatieve AI. Het raamwerk omvat drie domeinen: de kwaliteit van de documentatie, maatschappelijke waarden en de invloed van de technologie op zorgverlener en patiënt.
De eerste versie wordt in 2027 verwacht. Het consortium wil tussentijdse inzichten echter al met de zorgsector delen, omdat het gebruik van ambient AI-scribes snel toeneemt. Praktijkervaringen, ethische afwegingen en ervaringen van betrokkenen moeten uiteindelijk samenkomen in handvatten waarmee zorgorganisaties generatieve AI kunnen beoordelen.
Breed consortium
RIGH:T is een landelijke samenwerking van onder meer ETZ, UMCG, Erasmus MC, UMC Utrecht, LUMC, Maasstad Ziekenhuis, Frisius MC, TU Delft en GGZ Noord-Holland-Noord. Ook patiëntenorganisaties, technologieleveranciers en andere stakeholders zijn bij het initiatief betrokken.
Behalve op validatie richt het consortium zich op implementatie en duurzame opschaling van generatieve AI. Daarbij spelen onder meer effectiviteit, kosten, gebruiksgemak, adoptie door zorgverleners, het patiëntperspectief, duurzaamheid en bekostiging een rol. Ook wil RIGH:T de AI-readiness van zorgorganisaties en AI-geletterdheid van zorgprofessionals vergroten.
Gebrek aan validatie enorme uitdaging
Intensivist en AI-specialist Jessica Workum van het ETZ, lid van de redactieraad van ICT&health en actief binnen RIGH:T, noemde gebrek aan validatie in een artikel in ICT&health in 2025 een van de belangrijkste uitdagingen voor AI in de zorg. Alleen vaststellen hoeveel fouten een toepassing maakt, is volgens haar niet voldoende. Ook de ernst van fouten moet worden meegewogen.
Dat is onder meer belangrijk vanwege automation bias: zorgprofessionals kunnen na verloop van tijd geneigd zijn AI-output gemakkelijker over te nemen, zeker onder hoge werkdruk. Daarom moeten volgens Workum afspraken worden gemaakt over de kwaliteit waaraan bijvoorbeeld een door een ambient AI-scribe gemaakte klinische notitie moet voldoen. Leveranciers moeten bovendien transparant zijn over de prestaties van hun toepassingen.
Tegelijkertijd waarschuwt Workum voor doorschieten naar de andere kant. Te lang wachten met een effectieve toepassing uit angst voor fouten kan patiënten eveneens tekortdoen. De uitdaging is volgens haar daarom de balans te vinden tussen voldoende innovatiesnelheid en verantwoorde toepassing van generatieve AI.
In editie 5 van ICT&health (oktober 2026) schenkt Jessica Workum met enkele collega's meer aandacht aan validatie van generatieve AI (grote taalmodellen) in de zorg: wat houdt validatie precies in? Wanneer is een taalmodel goed genoeg om te kunnen gebruiken in de zorg? En wat moet je in grote lijnen in je zorginstelling inrichten om dit te kunnen doen?
Referenties
ZonMW.
Auteur
