AI is geen IT. Aandachtspunten bij de implementatie van AI

Zorginstellingen die AI-systemen invoeren, worden vaak overweldigd door complexe risicobeoordelingen en tegenstrijdige aanbevelingen van toezichthouders, lokale overheden, denktanks en mondiale instellingen zoals de OESO en de WHO. Er is geen universele aanpak, maar vier cruciale stappen bieden een basiskader.

Definieer het probleem…

Eén belangrijk advies ligt ten grondslag aan alle richtlijnen: ga, voordat u AI implementeert, na of u het probleem ook zonder AI kunt oplossen. In tegenstelling tot traditionele IT-systemen in de gezondheidszorg vereisen op AI gebaseerde oplossingen doorgaans meer aandacht, grotere budgetten en competenties die mogelijk nog niet aanwezig zijn.

Een AI-implementatie begint altijd met een duidelijk omschreven klinisch of operationeel probleem. Het ziekenhuis moet vaststellen waarom AI geschikt is, welk bewijs de voorgestelde oplossing ondersteunt, of de benodigde gegevens beschikbaar zijn en hoe het systeem in de bestaande klinische werkprocessen past.

De beoordeling omvat regelgeving, cyberbeveiliging, gegevensbeheer, de paraatheid van het personeel, patiëntenbetrokkenheid, monitoring en de totale eigendomskosten. In de huidige internationale richtlijnen wordt ook de nadruk gelegd op bestuursstructuren, de capaciteit van het personeel, interoperabiliteit en voortdurende evaluatie als voorwaarden voor een verantwoorde invoering van AI.

AI is de eerste keuze wanneer een taak gepaard gaat met grote hoeveelheden gegevens, analyse op een schaal of met een snelheid die voor mensen moeilijk haalbaar is, en resultaten die kunnen worden getoetst aan empirisch bewijs. Overweeg, voordat u voor AI kiest, of automatisering, herontwerp van processen of conventionele statistische hulpmiddelen het probleem net zo effectief zouden kunnen oplossen.

… stel de businesscase op en test de oplossing

De volgende vraag is hoe succes eruit moet zien. Dat kan betekenen: kortere diagnosetijden, minder fouten, hogere detectiepercentages, een lagere administratieve werklast of een beter gebruik van middelen. Door vóór de implementatie een uitgangssituatie vast te stellen, is het mogelijk om de daadwerkelijke impact te beoordelen zodra het systeem in gebruik is.

De businesscase moet de verwachte klinische en operationele voordelen, implementatievereisten, risico’s en kosten samenbrengen. De richtlijnen van de NHS bevelen bijvoorbeeld aan om de onderliggende aannames te toetsen aan historische gegevens en vervolgens een proefproject uit te voeren alvorens tot een bredere implementatie over te gaan.

Het bewijs achter de beweringen van een leverancier verdient nauwkeurig onderzoek. Validatieresultaten moeten aantonen hoe het systeem presteert op het gebied van maatstaven zoals sensitiviteit, specificiteit, oppervlakte onder de curve (AUC), positief voorspellende waarde (PPV), negatief voorspellende waarde (NPV) en kalibratie. Maar deze cijfers zijn alleen zinvol in de juiste klinische context. Een model dat is gevalideerd op een patiëntenpopulatie die aanzienlijk verschilt van die van het ziekenhuis zelf, kan in de praktijk anders presteren. Bewijs uit externe validatie, prospectieve tests of klinische studies weegt daarom zwaarder dan resultaten die uitsluitend zijn gegenereerd op basis van de gegevens van de fabrikant.

Bij de aanschaf kan het ziekenhuis ook een modelkaart of gelijkwaardige documentatie opvragen waarin het beoogde gebruik, de prestaties, beperkingen, risico’s, trainings- en validatiegegevens van het AI-systeem worden beschreven. De OESO beveelt aan om modelkaarten te behandelen als levende documenten die worden bijgewerkt wanneer modellen veranderen en er prestatiegegevens uit de praktijk beschikbaar komen.

Controleer of gegevens, infrastructuur en werkprocessen gereed zijn

Vóór de implementatie moet elke zorginstelling haar gegevensbasis beoordelen. De benodigde gegevens moeten beschikbaar, voldoende volledig, gestructureerd, representatief en juridisch bruikbaar zijn. Beoordeel de gegevenskwaliteit en representativiteit voor alle relevante patiëntengroepen, omdat verschillen tussen de ontwikkelingspopulatie en de patiëntenpopulatie van het ziekenhuis de prestaties kunnen beïnvloeden. De OESO noemt vindbare, toegankelijke, interoperabele en herbruikbare gegevens, samen met representativiteit ten opzichte van de populatie, als essentiële voorwaarden voor het opschalen van AI in de gezondheidszorg.

Interoperabiliteit is altijd een prioriteit: het AI-systeem moet mogelijk worden gekoppeld aan het ziekenhuisinformatiesysteem, PACS, laboratoriumsystemen en andere klinische applicaties. Standaarden zoals HL7 FHIR en DICOM kunnen de gegevensuitwisseling ondersteunen, maar het ziekenhuis moet bepalen welke interfaces, middleware, systeemaanpassingen en externe IT-middelen nodig zijn.

Test vervolgens de workflow met de mensen die het systeem gaan gebruiken. Artsen, verpleegkundigen, technici en administratief personeel moeten beoordelen of AI de werkdruk vermindert, extra stappen toevoegt, verantwoordelijkheden verandert of nieuwe bronnen van fouten introduceert. De leverancier moet het product demonstreren in een representatieve werkomgeving in plaats van uitsluitend te vertrouwen op een vooraf voorbereide presentatie.

Een goede pilot moet vooraf vastgestelde toelatings- en uitstapcriteria hebben. Specificeer de doelgroep, de klinische setting, de duur, de prestatie-indicatoren, de veiligheidsdrempels en de voorwaarden voor het opschalen of stopzetten van het project. Dit creëert een gecontroleerd traject van testen naar routinematig gebruik.

Zorg voor governance, veiligheid en menselijk toezicht

Zorg voor AI-governance vóór de implementatie. Een ziekenhuis moet vaststellen wie verantwoordelijk is voor de klinische prestaties, de technische werking, gegevensbeheer, cyberbeveiliging, naleving van regelgeving en incidentbeheer. Het AI-risicobeheerkader van NIST biedt een algemene structuur voor het identificeren, beoordelen en beheren van AI-risico’s gedurende de gehele levenscyclus van het systeem.

Overweeg patiëntenbetrokkenheid wanneer AI de klinische zorg beïnvloedt. De WHO beveelt aan om zorgprofessionals, patiënten en andere belanghebbenden in een vroeg stadium bij de ontwikkeling en implementatie te betrekken, met mechanismen om zorgen te uiten en ethische kwesties aan te pakken. Het ziekenhuis moet vaststellen of patiënten moeten worden geïnformeerd over het gebruik van AI, of toestemming vereist is in de betreffende context, en hoe deze informatie wordt gedocumenteerd. De OESO noemt specifiek toestemming van de patiënt, aansprakelijkheid en menselijk toezicht als kwesties die gezondheidszorgsystemen moeten aanpakken bij de introductie van AI in de klinische zorg.

Menselijk toezicht moet operationeel worden gedefinieerd. Het personeel heeft duidelijke instructies nodig over wanneer zij een AI-aanbeveling kunnen accepteren, wanneer zij deze moeten toetsen en wat zij moeten doen wanneer hun klinische beoordeling in strijd is met het algoritme. Voor generatieve AI moeten ziekenhuizen verificatie-eisen voor de output vaststellen, omdat de technologie aannemelijke maar onjuiste informatie kan genereren.

Beoordelingen op het gebied van cyberbeveiliging en gegevensbescherming moeten voorafgaan aan de implementatie. Het ziekenhuis moet de resultaten van penetratietests, beveiligingsaudits, toegangscontroles, gegevensstromen, opslaglocaties en de incidentresponsprocedures van de leverancier onderzoeken.

Bereid het personeel, de inkoop en de levenscyclus na de implementatie voor

Ziekenhuizen moeten klinisch en operationeel personeel aanwijzen dat kan deelnemen aan de evaluatie en als implementatieleiders kan fungeren. De training moet betrekking hebben op de bediening van het systeem, de interpretatie van de output, beperkingen, vooringenomenheid, foutrapportage en wanneer een AI-aanbeveling in twijfel moet worden getrokken. Herhaalde trainingen en feedbackmechanismen verdienen de voorkeur boven een eenmalige trainingssessie vóór de lancering. Een analyse van de OESO identificeert eveneens de capaciteit van het personeel en systematische bijscholing als essentiële vereisten voor een duurzame invoering van AI.

Inkoopvereisten moeten betrekking hebben op interoperabiliteit, gegevensbeheer, cyberbeveiliging, onderbouwing, monitoring, modelupdates en contractuele verantwoordelijkheden. Vroegtijdige betrokkenheid van de markt kan ziekenhuizen helpen inzicht te krijgen in beschikbare oplossingen en eisen aan leveranciers kenbaar te maken, terwijl aanbestedingsbeslissingen gedocumenteerd en op concurrentie gebaseerd moeten blijven.

Het contract moet serviceniveaus, beschikbaarheid, responstijden, updateprocedures, incidentbeheer en beëindigingsregelingen vastleggen. De totale kosten moeten licenties, integratie, implementatie, training, ondersteuning, gegevensopslag, infrastructuur, interne IT-middelen en mogelijke hervalidatie na modelupdates omvatten.

Plan de monitoring na de implementatie al vóór de lancering. De prestaties van AI kunnen veranderen wanneer patiëntenpopulaties, klinische protocollen, werkwijzen voor gegevensinvoer of invoersystemen veranderen. De richtlijnen van de FDA bevelen aan om de modelprestaties te monitoren en de risico’s te beheren die gepaard gaan met hertraining en aanpassingen gedurende de gehele levenscyclus van het product.

Voor systemen die in de loop van de tijd kunnen evolueren, dient het ziekenhuis met de leverancier af te spreken hoe modelupdates moeten worden geëvalueerd, gedocumenteerd en goedgekeurd. Voor geplande wijzigingen moeten vóór de implementatie duidelijke test- en prestatiecriteria zijn vastgesteld.