Agentische AI zou de zorg kunnen coördineren, informatie kunnen opzoeken en routinetaken kunnen automatiseren, waardoor gezondheidszorgsystemen beter het hoofd kunnen bieden aan het groeiende personeelstekort en de steeds complexere werkprocessen. Toch blijft de zorg terughoudend om AI-systemen wezenlijke autonomie te verlenen. De sector voelt zich vaak meer op zijn gemak bij bekende inefficiënties en menselijke fouten dan bij de mogelijkheid van een onbekende machinefout.
Op het eerste gezicht lijkt de gezondheidszorg een ideale omgeving voor AI-agenten. Er zijn maar weinig sectoren die onder grotere druk staan door personeelstekorten, stijgende vraag en verwachtingen, en toenemende complexiteit. Maar hoe dichter AI-agenten bij beslissingen komen die de patiëntenzorg beïnvloeden, hoe voorzichtiger leidinggevenden in de gezondheidszorg worden. „Autonoom“ lijkt een verboden woord te zijn dat angsten oproept over de ontmenselijking van de gezondheidszorg en de verantwoordingsplicht.
De zorg is een mijnenveld. Risico’s kunnen onverwachts tot uitbarsting komen
Het is duidelijk dat de toepassing van AI-agenten in de gezondheidszorg heel anders is dan in andere sectoren. Een autonoom systeem dat een e-mail verkeerd categoriseert of de verkeerde vergadering inplant, zorgt voor ongemak. Een autonoom systeem dat bijdraagt aan een gemiste diagnose of een onjuiste behandelingsaanbeveling, creëert een geheel andere categorie risico’s.
Hoewel er brede overeenstemming bestaat dat agentische AI meer verantwoordelijkheid zou kunnen nemen voor routinematige operationele taken, is er aanzienlijk minder enthousiasme om soortgelijke autonomie toe te kennen bij diagnose of behandeling. De gezondheidszorg heeft echter zelfs geen vertrouwen in autonome klinische besluitvorming. De technologie blijft zich snel ontwikkelen, maar er blijft onzekerheid bestaan over de betrouwbaarheid, de verantwoordingsplicht en de gevolgen van falen.
De uitdaging reikt verder dan technologische prestaties. Naarmate AI-systemen steeds capabeler worden, kunnen clinici steeds meer geneigd raken om op hun aanbevelingen te vertrouwen. Dit fenomeen, vaak omschreven als ‘automatiseringsbias’, voegt een nieuwe laag van complexiteit toe. Het gevaar houdt ook in dat mensen onvoldoende kritisch worden ten aanzien van de conclusies ervan. Het resultaat is een gezondheidszorgsector die openstaat voor innovatie, maar tegelijkertijd een voorzichtige houding aanneemt ten aanzien van autonomie. Vooruitgang wordt toegejuicht. Verantwoordelijkheid blijft ononderhandelbaar.
Administratief, repetitief werk zou geautomatiseerd kunnen worden, maar de data zijn rommelig
Zorgprofessionals besteden een aanzienlijk deel van hun werkdag aan het documenteren van consulten, het zoeken naar informatie, het navigeren door gefragmenteerde systemen en het afhandelen van administratieve processen. Deze activiteiten kosten tijd, dragen bij aan burn-out en verminderen de tijd die beschikbaar is voor patiëntenzorg, naar schatting nemen administratieve taken tot wel 50% van de werkdag van een zorgverlener in beslag.
Agentische AI biedt juist een aantrekkelijke oplossing omdat veel van deze taken gestructureerd en repetitief zijn en gepaard gaan met relatief lage klinische risico’s. Het inplannen van afspraken, het coördineren van doorverwijzingen, het opzoeken van informatie, het beheren van documentatie en het ondersteunen van operationele workflows zijn gebieden waarop intelligente agenten aanzienlijke efficiëntieverbeteringen kunnen realiseren.
Het belang van dergelijke verbeteringen mag niet worden onderschat. Gezondheidszorgsystemen over de hele wereld kampen met een tekort aan artsen en verpleegkundigen, terwijl ze tegelijkertijd worden geconfronteerd met een toenemende vraag als gevolg van de vergrijzing. Elk uur dat aan het klinisch personeel wordt teruggegeven, biedt de mogelijkheid om de patiëntenzorg te verbeteren, wachttijden te verkorten en de druk op overbelaste organisaties te verlichten.
Maar zelfs universitaire medische centra die openstaan voor innovatie, worden vaak geconfronteerd met problemen die de invoering van AI vertragen, zoals een gebrek aan robuuste infrastructuur. Ziekenhuizen blijven gebukt gaan onder gefragmenteerde dataomgevingen, niet-gekoppelde informatiesystemen en inconsistente datakwaliteit. Een intelligente agent kan slechts zo goed presteren als de informatie die hem ter beschikking staat. Governancekaders, controleerbaarheid, interoperabiliteit en betrouwbare data-architecturen zijn voorwaarden geworden voor een bredere implementatie.
Patiënten zullen de grootste voorstanders van AI-agenten zijn
Terwijl zorginstellingen zich blijven richten op uitdagingen op het gebied van governance, regelgeving en implementatie, genereren veel patiënten al enorme hoeveelheden gezondheidsgerelateerde gegevens en zoeken ze naar betere manieren om hierin inzicht te krijgen.
Het traditionele zorgmodel was opgebouwd rond relatief beperkte datasets die werden verzameld tijdens incidentele ontmoetingen met zorgverleners. Maar nu zorgen draagbare apparaten, technologieën voor thuismonitoring, genetische tests, digitale therapieën en door patiënten gerapporteerde uitkomsten voor een continue stroom van informatie die zich ver buiten de muren van ziekenhuizen en klinieken uitstrekt.
Toch blijft de waarde van deze informatie vaak onbenut. Klinische teams werken onder aanzienlijke tijdsdruk, terwijl gezondheidszorgsystemen blijven worstelen met gefragmenteerde dossiers en losstaande gegevensbronnen. Patiënten verzamelen tijdens hun behandeltraject vaak honderden pagina’s aan medische documentatie. Het is zelfs voor ervaren clinici een uitdaging om uit dergelijke hoeveelheden informatie zinvolle inzichten te halen.
Dit is waar AI-agenten bijzonder waardevol zouden kunnen zijn. Hun grootste bijdrage ligt wellicht in het helpen van patiënten en zorgverleners bij het navigeren door een steeds complexer wordend informatielandschap. Agenten zouden dossiers uit meerdere bronnen kunnen samenvoegen, relevante trends kunnen identificeren, ontbrekende informatie kunnen markeren en samenvattingen kunnen opstellen die zijn afgestemd op specifieke klinische contexten. Patiënten maken al op grote schaal gebruik van AI, of het nu gaat om het vragen van eenvoudig advies aan ChatGPT over dagelijkse beslissingen of het uploaden van laboratoriumtestresultaten om meer inzicht te krijgen in hun gezondheid.
Er zijn echter duidelijke grenzen aan de acceptatie van automatisering door patiënten. Er is veel enthousiasme voor hulpmiddelen die de toegang tot informatie verbeteren, administratieve processen vereenvoudigen en de zorgcoördinatie ondersteunen. Er is veel minder enthousiasme voor technologieën die menselijke relaties proberen te vervangen. Dit zou binnenkort kunnen veranderen – het vertrouwen in de technologie staat niet in steen gebeiteld en evolueert samen met de voordelen die deze biedt. Recente studies suggereren dat het vertrouwen in AI afneemt; ondertussen neemt het gebruik van AI-chatbots in de gezondheidszorg toe.
Zorgcoördinatie zou wel eens een perfecte niche kunnen zijn voor agentische AI
Wat is dan de toekomst van agentische AI in de geneeskunde? In plaats van autonome digitale artsen te creëren, zullen zorgorganisaties waarschijnlijk netwerken van gespecialiseerde agenten inzetten die in verschillende fasen van het zorgtraject actief zijn. De ene agent kan vóór een afspraak patiëntgegevens verzamelen. Een andere kan dossiers uit meerdere systemen opvragen. Een derde kan samenvattingen opstellen voor clinici of vervolgactiviteiten coördineren. Het cumulatieve effect zou aanzienlijk kunnen zijn, ook al blijft elke afzonderlijke functie relatief beperkt.
Een dergelijke aanpak sluit aan bij de bredere richting van de transformatie in de gezondheidszorg. De grootste inefficiënties komen vaak niet voort uit een gebrek aan klinische expertise, maar uit slechte coördinatie, gefragmenteerde informatie en administratieve complexiteit.
Sigrid Berge van Rooijen, een AI-consultant in de gezondheidszorg (Nederland), beschrijft toekomstscenario’s waarin AI-agenten patiënten gedurende hun hele zorgtraject ondersteunen door afspraken te coördineren, informatie te ordenen en de communicatie tussen belanghebbenden te vergemakkelijken. Deze activiteiten vereisen intelligentie en initiatief, maar gaan niet zo ver dat ze het klinisch oordeel vervangen.
Het bouwen van een agent die klinische beslissingen kan nemen, wordt steeds meer een technische uitdaging. Toch biedt de geneeskunde zelden de zekerheid waar technologie op gedijt. Klinische beslissingen worden vaak genomen op basis van onvolledige informatie, concurrerende risico’s en veranderende omstandigheden. Artsen baseren zich niet alleen op gegevens, maar ook op observatie, ervaring, communicatie en inzicht in de bredere context rondom een patiënt.
Om die reden zullen AI-agenten waarschijnlijk de grootste impact hebben op de zorgcoördinatie. Het ordenen van informatie, het koppelen van gefragmenteerde systemen, het samenvatten van dossiers en het begeleiden van patiënten door steeds complexere zorgtrajecten zijn taken die van nature aansluiten bij de sterke punten van agentische AI.
Er zullen onvermijdelijk gevallen zijn waarin AI-agenten fouten maken, schade veroorzaken en de discussie doen oplaaien over de vraag of geneeskunde en kunstmatige intelligentie werkelijk verenigbaar zijn. Toch zijn de uitdagingen in de gezondheidszorg te groot om de potentiële voordelen te negeren. Geconfronteerd met een groeiend tekort aan personeel, een stijgende vraag en overweldigende hoeveelheden gegevens, kunnen gezondheidszorgsystemen het zich nauwelijks veroorloven de kans die agentische AI biedt, te laten liggen.
