AI heeft op een veelheid aan gebieden – diagnostiek, administratie, advies, voorspelling – een groeiende impact op de zorg wereldwijd. Reden voor de Amerikaanse Medische Associatie (AMA) om te pleiten voor duidelijkheid over wie waar verantwoordelijk is in de uitrol en het gebruik van AI: AI governance. Daarnaast blijft gelden dat AI ondersteunend moet zijn aan het werk van zorgprofessionals, die in de lead moet blijven.
Volgens de AMA is het aantal Amerikaanse artsen dat AI-tools gebruikt in 2024 bijna verdubbeld, van 38 naar 68 procent. Naarmate het gebruik ervan toeneemt, neemt ook de noodzaak toe om AI verantwoord, veilig en effectief te gebruiken. De AMA definieert AI ook als augmented intelligence om te benadrukken dat AI de rol heeft om zorgprofessionals te ondersteunen, niet om ze te vervangen.
"Klinische besluitvorming moet nog steeds bij clinici liggen", aldus dr. Margaret Lozovatsky, Chief Medical Information Officer en vice-president Digital Health Innovations bij de AMA. "AI verbetert simpelweg hun vermogen om die beslissingen te nemen." Dat onderscheid is volgens Lozovatsky essentieel. AI heeft een directe invloed op de patiëntenzorg en -resultaten, en naarmate AI meer ingebed raakt in de dagelijkse gang van zaken en workflows, brengt het nieuwe uitdagingen en verantwoordelijkheden met zich mee.
"Er zijn reële risico's verbonden aan de implementatie van deze technologieën", zo stelde Lozovatsky tijdens een recent webinar van de AMA. "Daarom is het belangrijk om de cruciale behoefte aan governance te begrijpen."
De door de AMA vastgestelde fundamentele pijlers van verantwoorde AI-implementatie zijn:
- Vaststellen van de verantwoordingsplicht en structuur van het management.
- Vormen van een werkgroep om prioriteiten, processen en beleid uit te werken.
- Beoordelen van het huidige beleid.
- Ontwikkelen van AI-beleid.
- Definiëren van de processen voor projectintake, leveranciersevaluatie en -beoordeling.
- Bijwerken van standaard plannings- en implementatieprocessen.
- Opzetten van een toezicht- en monitoringproces.
- Ondersteunen van de AI-organisatieparaatheid.
Vastleggen verantwoording eerste stap
Het vastleggen van verantwoording is de eerste en meest essentiële stap in een veilige, schaalbare en zinvolle AI-integratie. Het management bepaalt de visie, houdt toezicht en zorgt ervoor dat AI en de implementatie ervan aansluiten bij de prioriteiten van het hele systeem.
"Het betrekken van de directie is cruciaal", aldus Lozovatsky, kinderarts en een nationaal erkend leider op het gebied van digitale gezondheid en zorginformatica. "Al hun vakgebieden zullen worden beïnvloed, dus draagvlak bij die leidinggevenden is essentieel."
Dit management bestaat vaak uit:
- Chief Medical Officer.
- Chief Nursing Officer.
- Chief Quality Officer.
- Chief Operating Officer.
- Chief Information of Chief Technology Officer.
- Chief Digital Officer.
- Algemeen adviseur.
- Chief Medical Information Officer.
Een dergelijke multidisciplinaire governance-structuur stuurt de implementatie aan op basis van feedback van de zorgverleners. "Het is cruciaal om mensen te hebben die al deze disciplines vertegenwoordigen, omdat zij de relevante overwegingen het beste begrijpen", benadrukt Lozovatsky. Van daaruit moet elke leider verantwoordelijkheden delegeren aan vertrouwde stakeholders binnen zijn of haar domein om workflows, beleid en projectevaluaties vorm te geven.
Klinische governance opzetten
De AMA beveelt een drieledig model aan om AI-governance te organiseren:
- Klinisch leiderschap: ondersteuning op topniveau is essentieel om ervoor te zorgen dat AI aansluit bij de organisatieprioriteiten en patiëntenzorg. Leidinggevenden moeten ook verantwoordelijkheden voor de implementatie delegeren.
- Adviesraden: commissies moeten technologieën beoordelen en klinische zorgen aanpakken, terwijl ze ervoor zorgen dat de nieuwe tools interoperabel zijn met bestaande systemen.
- Specialismen: echte betrokkenheid van zorgprofessionals op de werkvloer in klinische specialismen zal bijdragen aan de ontwikkeling en implementatie van AI-tools die aansluiten op de unieke behoeften van die specialismen.
Deze aanpak moet ervoor zorgen dat AI bredere institutionele doelen ondersteunt en dat middelen correct worden toegewezen. "Organisaties beschikken waarschijnlijk al over processen voor het evalueren van technologie", aldus Lozovatsky. "Ze zullen rekening moeten houden met unieke aspecten van AI en hoe deze zullen worden aangepakt met bestaande modellen en welke aanvullende bestuursorganen nodig zijn", met als doel consistent toezicht en afstemming op institutionele prioriteiten te garanderen.”
Integreer klinische informatica in besluitvorming
Klinische informatica omvat klinische, technische en operationele overwegingen, waardoor deze expertise integraal deel uitmaakt van de besluitvorming. "Governance van elke klinische technologie is afhankelijk van een diepgaand begrip van wat zowel technologie als mensen kunnen en zouden moeten doen", aldus Lozovatsky. Het is essentieel om deze experts vroeg in het governance-overleg te betrekken.
Organisaties moeten verschillende strategische vragen beantwoorden voordat ze een structuur ontwerpen:
- Hoe ondersteunt AI onze strategische doelen?
- Moeten we een zorgvuldiger aanpak hebben?
- Welke interne capaciteiten en externe partnerschappen hebben we nodig?
- Wie is verantwoordelijk voor toezicht en naleving?
- Past AI in ons bestaande governance-model, of hebben we nieuwe commissies of rollen nodig?
Het opzetten van een governance-kader begint met het behandelen van AI als een instrument om institutionele doelen te bevorderen. Evalueer bestaande interne capaciteiten om te bepalen of ze klaar zijn voor het beoordelen en implementeren van AI. Daarna kunnen zorginstellingen volledig geïnformeerde beslissingen nemen over het integreren van AI in bestaande structuren of het creëren van nieuwe structuren.
Opbouwen van vertrouwen
Misschien wel de belangrijkste functie van AI-governance is het opbouwen van vertrouwen bij artsen en andere zorgprofessionals dat deze tools veilig zijn, bij patiënten dat hun gegevens veilig zijn en bij leiders dat de implementatie van AI hun zorgmissie zal bevorderen.
"Zorgorganisaties moeten ervoor zorgen dat AI op een veilige en doordachte manier wordt geïmplementeerd", meent Lozovatsky. "We moeten bewijzen dat we de zorg voor onze patiënten en onze clinici ondersteunen in hun vermogen om die zorg te leveren."
Een duidelijke doelstelling en sterke structuren voor de implementatie stellen zorgsystemen in staat om vol vertrouwen verder te gaan. Het vastleggen van bestuurlijke verantwoording binnen een haalbaar governance-kader ondersteunt samenwerking die zinvolle AI-integratie stimuleert.
AI-governance is niet alleen toezicht. Het gaat om het creëren van een cultuur van innovatie in een gestructureerd kader dat AI positioneert als een instrument om de zorg te verbeteren. "Dit op een veilige en doordachte manier doen", concludeert Lozovatsky”, ondersteunt de zorg voor onze patiënten en onze clinici bij het leveren ervan."
AI in Nederlandse ziekenhuizen
Hoewel steeds meer Nederlandse ziekenhuizen AI strategisch omarmen, blijft de daadwerkelijke implementatie nog grotendeels kleinschalig. Dat bleek afgelopen apriluit de AI Monitor Ziekenhuizen 2025 van M&I/Partners. De grootste knelpunten liggen bij AI-bewustzijn, datamanagement, financiële middelen en het transformatievermogen. Tegelijkertijd groeit de aandacht voor AI-strategieën en -beleid, en wint AI in de bedrijfsvoering terrein. Generatieve AI wordt inmiddels in driekwart van de ziekenhuizen toegepast. Werkdrukvermindering blijft de belangrijkste drijfveer, maar de impact op zorgkosten en patiëntenzorg is nog onzeker. De weg naar volledige AI-readiness is ingezet, maar er is nog een lange weg te gaan.
