In discussies over AI in de gezondheidszorg gaat het opvallend vaak over informatievoorzieningen en transparantie. Welke uitleg moet een AI-model geven, hoeveel, en op welk niveau? De onderliggende aanname is meestal als volgt: als artsen en patiënten beter begrijpen hoe een model werkt, zal het vertrouwen groeien. En daarmee ook het gebruik.
Deze aanname heb ik zelf ook lang gedeeld. Tot ik me begon te verdiepen in andere perspectieven op vertrouwen. Daarin wordt vertrouwen niet gezien als iets dat je kunt ontwerpen of oplossen, maar als een complex sociaal fenomeen dat afhankelijk is van context, relaties en ervaringen.
Dit schuurt met hoe wij als technisch georiënteerde onderzoekers vaak denken: analytisch, logisch, checklist-gedreven. Vanuit die gedachtegang is het logisch om aan te nemen dat ook vertrouwen gevangen kan worden in richtlijnen, uitlegformats of afvinklijstjes.
Natuurlijk blijven duidelijke informatie en transparantie belangrijk. Maar ik ben steeds meer gaan twijfelen of we niet te veel verwachten van transparantie alleen. Zien we dit niet te veel als de heilige graal?
Verwachting klopt niet
Die verwachting zien we ook terug in veel AI-onderzoek. Er is veel aandacht, ook bij mij, voor modellen die zo uitlegbaar mogelijk zijn, en voor methoden die complexere modellen transparanter maken. Het onderzoeksdomein ‘explainable AI’ is daaruit ontstaan. Het uitgangspunt is duidelijk: hoe transparanter, hoe beter te gebruiken. Als we maar zorgen dat gebruikers begrijpen hoe het model tot een advies komt, dan volgt het gebruik vanzelf.
Alleen gebeurt dit in de praktijk vaak niet. Ook wanneer modellen relatief eenvoudig zijn, of wanneer uitgebreide uitleg wordt gegeven over werking, prestaties en toepassingsgebied, blijft de inzet in de klinische praktijk toch vaak beperkt.
Dit betekent dat begrip niet automatisch leidt tot daadwerkelijk gebruik. Daardoor wordt ook steeds duidelijker dat vertrouwen geen puur cognitief vraagstuk is, maar ook een sterk intuïtieve component bevat. Het gaat niet alleen om begrijpen, maar om aanvoelen, ervaren, durven. En juist daar wringt het in de gezondheidszorg. Want er zitten echte, vaak levensveranderende, gevolgen vast aan durven en uitproberen. Vanuit dat perspectief is het volkomen logisch dat AI zo weinig wordt ingezet.
Hieruit volgt dat we steeds betere, steeds netter onderbouwde systemen ontwikkelen, maar dat ze blijven schuren met de realiteit van klinisch werk. Ook implementatieplannen zijn vaak sterk procedureel opgebouwd. Als alle stappen zijn doorlopen, alle stakeholders zijn betrokken en alle documentatie op orde is, is de verwachting dat het gebruik vanzelf volgt. Maar menselijk gedrag laat zich niet zo lineair organiseren. Zonder aandacht voor de sociale en relationele aspecten van vertrouwen, blijven zelfs zorgvuldig ontwikkelde tools kwetsbaar in de praktijk.
Ander vertrekpunt
Voor mij betekent dit dat we een ander vertrekpunt nodig hebben. Minder focus op de vraag of een systeem zichzelf goed kan uitleggen, en meer focus op de vraag hoe het systeem zich verhoudt tot het klinische besluit. Welke rol heeft het? Wat verandert het in het gesprek met een patiënt? Welke ruimte geeft het, en welke spanningen roept het op?
Misschien moeten we stoppen om te proberen vertrouwen te ‘repareren’ met meer transparantie of betere uitleg. En accepteren dat vertrouwen geen feature is, maar een dynamisch onderdeel van menselijk gedrag. Dat vraagt om minder checklists en meer aandacht voor context, interactie en ervaring. En vooral om een serieuze brug tussen technische, medische én sociologische perspectieven. Juist daar waar we willen dat AI echt landt in de praktijk.
