We hebben de mond vol van de menselijke maat in de zorg. Terwijl we in vergaderzalen van Raden van Toezicht praten over 'nabijheid' en 'warme zorg', schuiven we in de praktijk stilletjes de regie naar een zwarte doos: het AI-algoritme. We suggereren dat de arts of verpleegkundige aan het roer staat, maar in werkelijkheid transformeren we onze professionals tot 'human-in-the-loop' operators die louter de systeemwaarschuwingen afvinken.
Er is een sluipende paradox aan de gang. De moderne diagnostiek wordt geflankeerd door digitale orakels. Dat biedt hoop: AI kan patronen herkennen die voor het menselijk oog onzichtbaar blijven, waardoor we sneller en preciezer behandelen.
Het levert ook gevaar op. Niet de machine zelf, maar het blinde vertrouwen daarin. Hoe geavanceerder onze diagnostische AI, des te kleiner de werkelijke keuzeruimte van de zorgverlener. Wanneer een algoritme met 98 procent zekerheid een maligniteit aanwijst, wie durft daar als arts dan nog tegenin te gaan?
De 'autonomie' van de professional wordt zo gereduceerd tot een administratieve exercitie: instemmen met de machine of uitleggen waarom je afwijkt van de digitale profeet. In het laatste geval ben je bij een incident direct het haasje: "Waarom heb je het advies van het systeem genegeerd?"
De nieuwe fabrieksarbeider
We zijn dan bezig de zorg te Tayloriseren1. De arts is de nieuwe fabrieksarbeider die controleert of de lopende band geen fouten maakt. Dit is niet het bevrijden van de zorgprofessional door techniek: dit is de instrumentalisering van het menselijk oordeel.
De echte winst zit in synergie: AI als 'co-piloot' die de arts ontlast van routinematig denkwerk waardoor er juist meer tijd vrijkomt voor de patiënt. We moeten de techniek niet gebruiken om de menselijke autonomie te vervangen maar om deze te versterken door betere, datagestuurde ondersteuning.
Rol van de RvT
Als toezichthouder kijken we vaak naar businesscases voor ICT en AI. We kijken naar ROI, interoperabiliteit en security. Maar we kijken zelden naar de erosie van de professionele autonomie.
Als toezichthouders is het onze taak om de balans te bewaken. Innovatie zonder menselijke regie is een risico; menselijke zorg zonder technologische ondersteuning is inefficiënt.
Hier zijn zeven actiepunten voor uw Raad van toezicht:
- Beoordeel de 'Human-in-the-Loop': vraag het bestuur: hoe blijft de professional 'in control'? Is het systeem een instrument voor de arts of is de arts een instrument voor het systeem?
- Promoot de hybride zorgcultuur: moedig innovaties aan die de administratieve druk verlichten (positieve kant) maar toets scherp op AI die klinische besluitvorming volledig overneemt.
- Evalueer de professionele vrijheid': borg dat artsen altijd gemotiveerd kunnen afwijken van AI-advies zonder angst voor juridische represailles.
- Focus ook op ethische scholing: zorg dat niet alleen de technici, maar ook de zorgverleners en de top van de organisatie begrijpen waar de grenzen van algoritmes liggen.
- Eis inzicht in de 'bias-rapportage': vraag niet alleen of het systeem werkt maar vraag ook: op welke populatie is het getraind? Is het geschikt voor onze patiëntenmix?
- Organiseer tegenspraak: vraag de medische staf expliciet naar hun ervaringen. Voelen zij zich ondersteund door AI of voelen zij zich gedirigeerd door een systeem dat ze niet begrijpen?
- Evalueer de 'Digitale Geletterdheid' van de top: zorg dat het bestuur niet alleen IT-projecten kan managen maar ook de ethische implicaties van algoritmes kan duiden.
Conclusie
De menselijke maat is geen statisch gegeven, maar het resultaat van een bewuste balans. Echte innovatie is de kunst om de rekenkracht van de machine te benutten zonder het kompas van de eigenwijze, twijfelende menselijke professional uit het oog te verliezen.
