Een goede AI-toepassing alleen is niet genoeg om kunstmatige intelligentie succesvol in de zorg te gebruiken. Ook de inrichting van werkprocessen, kennis van zorgprofessionals en draagvlak binnen organisaties spelen een belangrijke rol. Dat concludeert de Wereldgezondheidsorganisatie (WHO) in een rapport met elf praktijkvoorbeelden uit Europese landen. Zorgprofessionals moeten volgens de WHO weten wat AI wel en niet kan, uitkomsten kunnen beoordelen en herkennen wanneer menselijk oordeel nodig blijft.
Het rapport ‘Bridging theory and practice - implementation insights on artificial intelligence in health care’ beschrijft toepassingen van AI voor onder meer diagnostiek, het verminderen van administratieve lasten en het slimmer inzetten van personeel. De praktijkvoorbeelden laten tegelijkertijd zien dat een technisch goed werkend systeem niet automatisch leidt tot succesvolle toepassing in de zorg.
Organisaties die AI succesvol invoerden, besteedden volgens de WHO aandacht aan de mensen en werkprocessen rond de technologie. Zorgprofessionals moesten begrijpen wat een toepassing wel en niet kan en hoe de uitkomsten in de praktijk moeten worden gebruikt. Ook draagvlak binnen teams speelde een rol bij de invoering.
Uiteenlopende verwachtingen over AI
In meerdere praktijkvoorbeelden bleken gebruikers verschillende verwachtingen te hebben van de rol van AI. Zo gingen sommige zorgprofessionals ervan uit dat een systeem zelfstandig beslissingen zou nemen, terwijl het in werkelijkheid bedoeld was om de professional te ondersteunen. Volgens de WHO maakt dit AI-geletterdheid tot een belangrijke voorwaarde voor verantwoord gebruik. Zorgprofessionals moeten niet alleen weten hoe een AI-toepassing werkt, maar ook uitkomsten kritisch kunnen beoordelen en weten wanneer zij daarvan moeten afwijken.
De WHO benadrukt daarnaast dat organisaties eerst moeten bepalen welk zorgprobleem zij met AI willen oplossen. De technologie moet aansluiten op de bestaande zorgpraktijk en werkprocessen, in plaats van dat processen volledig rond een nieuwe toepassing worden ingericht.
AI vraagt om blijvende evaluatie
De invoering van AI is volgens de WHO geen eenmalige technische stap. Organisaties moeten blijven volgen hoe een toepassing in de praktijk wordt gebruikt, welke effecten zij heeft en of aanpassingen nodig zijn. De voorwaarden voor succesvolle implementatie kunnen bovendien verschillen per toepassing en zorgcontext. De WHO roept landen en zorgorganisaties daarom op om structureel te investeren in AI-geletterdheid en training van zorgprofessionals. Ook het opbouwen van AI-kennis bij leidinggevenden noemt de organisatie als een van de eerste stappen bij de invoering van AI.
Het gaat daarbij niet alleen om technische vaardigheden. Medewerkers moeten ook begrijpen hoe AI tot resultaten komt, welke risico’s eraan verbonden zijn en hoe zij uitkomsten in de juiste context kunnen plaatsen. Ook Nederlands onderzoek van Digivaardig in de zorg naar AI-geletterdheid wijst op het belang van kennis, vaardigheden en begeleiding. Zorgmedewerkers geven daarin aan behoefte te hebben aan ondersteuning om AI verantwoord in hun dagelijkse werk te kunnen toepassen.
Transparantie en menselijke beoordeling
Naast AI-geletterdheid benadrukt de WHO het belang van transparantie en ethiek. Zorgprofessionals moeten weten wanneer zij met AI werken, welke gegevens een systeem gebruikt en hoe een uitkomst tot stand komt. Ook privacy, informatiebeveiliging en mogelijke vooroordelen in AI-systemen vragen volgens de WHO om aandacht.
AI kan helpen bij het analyseren van gegevens, het signaleren van afwijkingen en het ondersteunen van beslissingen. De beoordeling van die uitkomsten blijft echter onderdeel van het zorgproces. De professional moet kunnen bepalen hoe een AI-uitkomst zich verhoudt tot de situatie van de individuele patiënt en wanneer daarvan moet worden afgeweken.
Ook de verdeling van verantwoordelijkheden vraagt volgens de WHO aandacht. Zorgorganisaties moeten duidelijk hebben wie verantwoordelijk is voor het gebruik en toezicht op een AI-toepassing en hoe wordt ingegrepen wanneer een systeem niet goed functioneert of ongewenste uitkomsten geeft.
AI begint bij zorgprobleem
Voor zorgorganisaties betekent dit dat de invoering van AI verder gaat dan de aanschaf en implementatie van software. Ook de inrichting van werkprocessen, verantwoordelijkheden, toezicht en de manier waarop professionals met de technologie werken, bepalen hoe AI uiteindelijk in de dagelijkse zorg wordt toegepast.
Ook binnen de Nederlandse zorg klinkt de oproep om AI niet als losstaande technologie te benaderen. ICT&health schreef hierover in juni dit jaar. Succesvolle AI-toepassing begint met een concreet zorgprobleem en vraagt om aansluiting op bestaande werkprocessen en de medewerkers die ermee werken.
Voeg ICT&health toe aan Google
Toon meer content van ICT&health in Google Zoeken.
