Het landschap van de Nederlandse zorg ligt bezaaid met de karkassen van veelbelovende AI-pilots. De redenen zijn consistent: de AI-toepassing loste een probleem op dat op de werkvloer niet als zodanig werd ervaren, of de implementatie werd behandeld als een technisch project in plaats van een sociaal-technische verandering. Wanneer technologie wordt gezien als een 'pleister' voor structurele problemen, zoals een gebrekkige personeelsplanning of inefficiënte logistiek, zal de pleister altijd loslaten.
Er is een diepgaande behoefte aan 'demystificatie' van AI. Zolang we spreken over AI als een magische entiteit, ontnemen we onszelf het vermogen om de technologie kritisch te beoordelen.
AI is gereedschap, niets meer en niets minder. Net zoals een chirurg een scalpel moet kunnen vertrouwen, moet een arts het algoritme kunnen valideren. Als de leverancier niet transparant is over de trainingsdata of de werking van het model, mag de tool de drempel van de zorginstelling niet overschrijden.
Tegelijkertijd is het een absolute zekerheid dat wij allen, ook in zorgorganisaties, aan de bak moeten met AI en daarbij nadenken over de randvoorwaarden om het überhaupt te laten slagen.
Vijf concrete aanbevelingen
Om de rol van hoeder van de digitale toekomst serieus in te vullen, kan een lid van de RvT of RvC niet langer volstaan met het incidenteel bespreken van een IT-paragraaf. Hieronder volgen vijf concrete actiepunten die essentieel zijn om AI succesvol en verantwoord te laten landen:
- Stel een audit in op AI-geletterdheid: vraag de Raad van Bestuur niet óf er een AI-beleid is, maar hoe de AI-geletterdheid voor álle medewerkers concreet is geborgd. Laat de organisatie aantonen dat zorgverleners en ondersteunende medewerkers daadwerkelijk begrijpen wat zij met AI kunnen en ook wat niet.
- Borg een digitaal profiel in de Raad: zorg dat er minimaal één lid is met diepgaande kennis van technologische innovatie, data-architectuur en ethiek. Dit lid moet in staat zijn om als kritisch klankbord te fungeren voor de CIO en de raad te helpen om door de glanzende marketingretoriek van AI-leveranciers heen te prikken.
- Toets op de 'data-hygiëne' vóór investering: fundament, fundament en fundament… Voordat er budget wordt gealloceerd voor geavanceerde AI-toepassingen, moet de raad de garantie krijgen dat de datakwaliteit & ontsluiting, architectuur, AI-governance en mens & veranderkracht op orde zijn. AI bouwen op een vervuilde berg van data is een vorm van kapitaalvernietiging.
- Eis inzicht in de 'human-in-the-loop' protocollen: vraag bij elk AI-project expliciet hoe de menselijke verantwoordelijkheid juridisch en praktisch is belegd. Hoe voorkomt de organisatie dat artsen en verpleegkundigen blindvaren op algoritmen uit tijdsgebrek en is er voldoende tijd gereserveerd voor deze cruciale controlefunctie?
- Beoordeel innovatie op 'waarde voor de professional': meet het succes van AI-projecten niet alleen in potentiële kostenbesparingen, maar primair in de vermindering van de administratieve last en de toename van de effectieve tijd aan het bed. Als AI leidt tot méér registratiedruk of complexere interfaces, is het een strategische misstap, ongeacht de technische superioriteit.
Naar een lerend zorgsysteem
De Raad van Toezicht moet de lastige vragen stellen die voorkomen dat de zorgorganisatie blind een digitaal moeras in fietst.
Het is tijd om op te houden met het bouwen van digitale luchtkastelen en te beginnen met het storten van een betrouwbaar fundament van data en kennis. Kunstmatige intelligentie in de zorg slaagt alleen als we de moed hebben om eerst de analoge chaos op te lossen.
Succesvolle AI-implementatie is – concluderend - geen technologische triomf, maar de ultieme proeve van bekwaamheid voor modern toezicht en integer bestuur.
