Generatieve AI vraagt om zorgvuldige validatie

Een AI-toepassing die spreekkamergesprekken omzet in medische verslagen kan zorgverleners administratief werk besparen. Maar een vloeiend geschreven verslag is niet automatisch correct. Ook tevreden gebruikers en het uitblijven van klachten bieden onvoldoende zekerheid over de kwaliteit. Hoe stelt een zorgorganisatie vast of generatieve AI veilig en betrouwbaar genoeg is voor haar patiënten?

Bovenstaande vraag staat centraal bij RIGH:T, een sectoroverstijgend consortium van zorginstellingen zoals het ETZ, UMCG, Erasmus MC, UMC Utrecht, LUMC, Maasstad Ziekenhuis, Frisius MC, TU Delft en GGZ Noord-Holland-Noord. Het in 2025 opgerichte consortium richt zich op de verantwoorde implementatie van generatieve AI in de zorg.

Het samenwerkingsverband ontwikkelt in dit kader een praktisch validatieraamwerk voor generatieve AI, met spraakgestuurde verslaglegging als eerste toepassing. Daarmee moeten zorgorganisaties beter onderbouwd kunnen besluiten of een toepassing klaar is voor de werkvloer, aldus een artikel in ICT&health 5.

Toetsen vóór inzet

Validatie betekent hier dat veiligheid en betrouwbaarheid methodisch en objectief worden getoetst voordat een toepassing in de patiëntenzorg wordt ingezet. Daarbij gaat het om meer dan technische nauwkeurigheid. Het raamwerk richt zich op de kwaliteit van documentatie, maatschappelijke waarden en de invloed op zorgverlener en patiënt en beantwoordt vragen zoals: is de gegenereerde informatie passend voor de zorgsituatie? Ontbreken belangrijke gegevens? Zijn er systematische vertekeningen die bepaalde patiëntengroepen kunnen benadelen?

De toetsing betreft volgens RIGH:T steeds een specifieke toepassing in een specifieke zorgcontext. Wat op een ziekenhuispolikliniek werkt, is niet vanzelf geschikt voor de intensive care, de ggz of de ouderenzorg. Een leveranciersdemonstratie, CE-markering of aangetoonde tijdwinst vervangt die beoordeling niet.

Ook controle door een zorgverlener biedt op zichzelf onvoldoende waarborgen. Overtuigend geformuleerde teksten kunnen ertoe leiden dat gebruikers fouten minder snel opmerken. Bovendien kan voortdurend controleren en corrigeren de beoogde administratieve verlichting juist ondermijnen.

Regie bij zorginstelling

Zorginstellingen hoeven niet alle validatiestappen zelf uit te voeren. Wel moeten zij de regie en verantwoordelijkheid behouden voor het verzamelen van de benodigde informatie en het afwegen van risico’s. Daarvoor zijn duidelijke afspraken met leveranciers nodig. Samenwerking met andere instellingen kan helpen om eerdere validaties uit vergelijkbare zorgsituaties gedeeltelijk te hergebruiken.

Binnen de organisatie vraagt dit om een multidisciplinair team, met betrokkenheid van eindgebruikers en deskundigen op onder meer privacy, beveiliging, inkoop en medische technologie. AI-geletterdheid over de volle breedte van de organisatie helpt hen kritische vragen te stellen en antwoorden te beoordelen. Zo moet validatie bijdragen aan gefundeerd vertrouwen in AI en verantwoorde opschaling.

Lees het volledige artikel in editie 5, 2026 van ICT&health en in ons online magazine.