“De AI-revolutie is misschien al een feit, maar bewijs, integratie in de werkprocessen, vertrouwen en organisatorische transformatie ontbreken nog steeds”, zegt prof. Alexander Meyer, directeur van het Instituut voor Kunstmatige Intelligentie in de Geneeskunde aan de Charité – Universitätsmedizin Berlin. In dit interview met ICT&health legt hij uit hoe zorginstellingen zich kunnen voorbereiden op AI.
U begon uw carrière als hartchirurg. Nu geeft u leiding aan een instituut dat AI in de geneeskunde vormgeeft. Hoe is dat zo gekomen?
Ik denk niet dat ik eigenlijk van rol ben veranderd. Ik heb altijd een passie gehad voor data: hoe je die weergeeft, verwerkt en er zinvolle informatie uit haalt. Informatica was mijn eerste vakgebied, en de geneeskunde werd het ideale speelveld om die technieken toe te passen op problemen uit de praktijk.
Door als arts te werken, kon ik de geneeskunde van binnenuit ervaren. Ik ben de uitdagingen, de taal en bovenal het enorme potentieel van een effectiever gebruik van data gaan begrijpen. Vandaag de dag stelt die combinatie van achtergronden me in staat om informatica op een veel zinvollere en impactvollere manier toe te passen in de geneeskunde.
Voor iemand buiten de cardiologie: wat is er op dit gebied veranderd sinds u uw carrière begon? Hoe beoefenen we cardiologie vandaag de dag in vergelijking met toen u begon?
Gedurende mijn hele carrière hebben mensen me herhaaldelijk gezegd: “Over een paar jaar zal de geneeskunde er totaal anders uitzien.” Dat is niet gebeurd.
Ik herinner me dat ik dezelfde voorspelling hoorde tijdens mijn studie geneeskunde, toen genomica en technologieën zoals de polymerasekettingreactie in opkomst waren. Onze professoren waren ervan overtuigd dat de geneeskunde tegen de tijd dat we afstudeerden fundamenteel zou zijn veranderd. Dat was niet het geval.
Het eerlijke – en misschien teleurstellende – antwoord is dus dat de klinische praktijk niet zo veel is veranderd als veel mensen hadden verwacht. Patiënten ondergaan nog steeds grotendeels dezelfde ingrepen, en de dagelijkse geneeskunde lijkt opmerkelijk veel op hoe het er slechts een paar jaar geleden uitzag.
Wat wel is veranderd, is het ChatGPT-moment. Voor het eerst begonnen het grote publiek en veel clinici de mogelijkheden van kunstmatige intelligentie te waarderen. Het verschuifde het gesprek van de vraag of AI een rol zou kunnen spelen in de geneeskunde naar de vraag hoe het op een zinvolle manier kan worden toegepast in de dagelijkse klinische praktijk.
Laten we teruggaan naar een ander belangrijk keerpunt: smartphones en smartwatches. Ook deze zijn belangrijk geworden in de cardiologie, aangezien veel mensen nu apparaten dragen die continu gezondheidsgegevens meten en zelfs aandoeningen zoals atriumfibrilleren kunnen detecteren. Heeft dit de voorspellende cardiologie of cardiovasculaire preventie veranderd?
Natuurlijk hebben deze technologieën delen van de cardiologie veranderd. Het detecteren van atriumfibrilleren is bijvoorbeeld een belangrijke vooruitgang met aanzienlijk preventief potentieel. Het identificeren van patiënten die een normaal sinusritme lijken te hebben, maar in werkelijkheid last hebben van intermitterend atriumfibrilleren, kan een echt klinisch verschil maken.
Tegelijkertijd zou ik niet zeggen dat wearables de cardiologie fundamenteel hebben veranderd. Dat roept een bredere vraag op: wat verwachten we eigenlijk van technologie? We omschrijven innovaties vaak als disruptief of transformatief, maar de meeste technologieën veranderen een heel vakgebied niet van de ene op de andere dag. Ze worden krachtige hulpmiddelen die onze manier van werken geleidelijk verbeteren.
Hetzelfde geldt voor smartphones. Ze zijn platforms geworden voor geheel nieuwe manieren van communiceren en het verlenen van gezondheidszorg, maar ze hebben de geneeskunde niet op zichzelf getransformeerd. Ik denk dat de media vaak onrealistische verwachtingen wekken. Elke nieuwe technologie wordt gepresenteerd als revolutionair. In werkelijkheid komt vooruitgang voort uit vele afzonderlijke innovaties die zich in de loop van de tijd opstapelen tot betekenisvolle verandering.
Sommige vroege visies op digitale gezondheidszorg schilderden een beeld van patiënten die wearables droegen die continu gegevens doorstuurden naar artsen, die dashboards zouden monitoren en gebeurtenissen zoals beroertes zouden voorspellen voordat ze plaatsvonden. Waren die verwachtingen onrealistisch?
Ik denk het wel. Soms lijken die visies mij zelfs een beetje anachronistisch. Als ik concepten zie die gebaseerd zijn op commandocentra waar artsen eindeloze stromen patiëntgegevens bekijken, denk ik dat ze eigenlijk het tegenovergestelde zijn van wat we zouden moeten nastreven. Een intelligent systeem mag clinici niet overweldigen met elk beschikbaar gegevenspunt. Het moet alleen de informatie naar voren brengen die op een bepaald moment voor een bepaalde patiënt van belang is. Dat is wat intelligentie zou moeten betekenen.
Het probleem is dat we vaak onrealistische verwachtingen rond AI hebben gecreëerd vanwege het enorme potentieel ervan. AI is een platformtechnologie. Dezelfde onderliggende technologie kan toepassingen aandrijven in de cardiologie, interne geneeskunde, neurologie, ziekenhuisadministratie, volksgezondheid en vele andere gebieden. Dat is wat AI zo bijzonder maakt. Het is één technologie met het potentieel om veel verschillende problemen op te lossen, maar dat betekent niet dat het de gezondheidszorg van de ene op de andere dag zal transformeren.
Een van de grootste uitdagingen is dat veel veelbelovende AI-technologieën nooit hun weg vinden naar de dagelijkse klinische praktijk. U stelt vaak dat de belemmeringen onder meer bestaan uit een gebrek aan vertrouwen, onvoldoende bewijs en een gebrek aan de juiste structuren.
Wat zijn de belangrijkste obstakels die verhinderen dat AI de overstap maakt van innovatie naar dagelijks klinisch gebruik?
Er is niet slechts één enkele barrière, dus laat me de belangrijkste opsommen. De eerste is financieel. AI is niet gratis, en de implementatie ervan kan duur zijn. Zoals bij elke digitale transformatie zijn er vooraf investeringen nodig. Bij een slechte implementatie kan het de kosten zelfs verhogen in plaats van verlagen. De tweede barrière is bewijs, en hier moeten we onderscheid maken tussen verschillende soorten AI.
Voor klassieke machine learning-toepassingen, zoals beeld- of ECG-analyse, beschikken we in veel gevallen al over sterk bewijs. Mammografie is een goed voorbeeld. De vraag is niet langer of deze technologieën werken, maar waarom ze nog niet op grotere schaal worden gebruikt. Is het een kwestie van financiering? Opleiding? Of heeft de klinische praktijk de stand van het bewijs gewoon nog niet ingehaald?
Voor veel andere toepassingen van machine learning is het bewijsmateriaal echter nog in ontwikkeling. De afgelopen jaren hebben we een groeiend aantal hoogwaardige klinische onderzoeken gezien, wat bemoedigend is omdat ze een solide bewijsbasis opbouwen. Zodra een AI-toepassing voldoende klinisch voordeel heeft aangetoond, moet deze worden behandeld als elk ander medisch hulpmiddel: door ziekenhuizen worden ingevoerd, in de klinische praktijk worden geïntegreerd en uiteindelijk worden weerspiegeld in klinische richtlijnen.
Generatieve AI vormt een andere uitdaging
Als je de wetenschappelijke literatuur volgt, valt je een opvallend patroon op. De ene week suggereert een veelbesproken artikel in Nature Medicine dat basismodellen klaar zijn voor de geneeskunde. De week daarop stelt een ander artikel – eveneens in Nature Medicine – dat dit niet het geval is. Dit is niet zozeer een tegenstrijdigheid als wel een weerspiegeling van de technologie zelf.
Foundation-modellen zijn ontworpen om veel verschillende taken uit te voeren. Hun kracht ligt in hun veelzijdigheid, maar dat maakt het ook moeilijk om ze te valideren. Er zijn simpelweg te veel mogelijke medische toepassingen. Dat zorgt voor een uitdaging op het gebied van regelgeving. Natuurlijk vragen mensen zich af of we de algemene medische geschiktheid van deze modellen zouden kunnen certificeren en ze vervolgens in meerdere klinische scenario’s zouden kunnen toestaan. Maar zo werkt de huidige verordening inzake medische hulpmiddelen niet. Elk beoogd gebruik moet afzonderlijk worden gevalideerd.
Daardoor kan een uiterst krachtige technologie voor algemeen gebruik mogelijk slechts voor één eng gedefinieerde taak worden goedgekeurd. Het lijkt misschien inefficiënt, maar dat is de huidige regelgevende realiteit. Een van de belangrijkste vragen voor de komende jaren is hoe we deze modellen voor algemeen gebruik zodanig kunnen reguleren dat de veiligheid gewaarborgd blijft en innovatie tegelijkertijd sneller bij patiënten terechtkomt.
Over wetenschap gesproken die de snelheid van de AI-evolutie niet kan bijhouden: een paar weken geleden suggereerde een ander artikel in Nature Medicine dat agentische AI zijn intrede doet in de gezondheidszorg. Denkt u dat de cardiologie er klaar voor is om AI-agenten een zekere mate van autonomie te geven?
Agentische AI bouwt voort op generatieve AI. Basismodellen leren niet alleen inhoud te genereren, maar ook om tools te gebruiken en workflows autonoom uit te voeren. Persoonlijk was ik niet verrast door de recente resultaten. Ik heb er nooit echt aan getwijfeld dat deze aanpak in de geneeskunde zou kunnen werken. Maar overtuiging is geen vervanging voor bewijs – dat moet nog steeds worden geleverd door middel van validatie in de praktijk.
De echte uitdaging is nu de implementatie. De meeste onderzoeken zijn uitgevoerd in gesimuleerde of experimentele omgevingen. De volgende stap is om deze systemen in echte ziekenhuizen te integreren en ze onder praktijkomstandigheden te evalueren. Dat betekent ook dat ziekenhuizen zelf klaar moeten worden gemaakt voor agentische AI door de benodigde infrastructuur op te bouwen en bestaande klinische systemen aan te sluiten.
Wat betreft de vraag waar agentische AI kan worden toegepast: alles hangt af van het risiconiveau en het beschikbare bewijs. Als een systeem grondig is gevalideerd voor een specifieke toepassing, zie ik geen fundamentele reden waarom het bepaalde taken niet autonoom zou kunnen uitvoeren.
We accepteren al autonome systemen in de geneeskunde. Een pacemaker neemt bijvoorbeeld voortdurend beslissingen zonder menselijke tussenkomst, ook al is deze gebaseerd op deterministische in plaats van generatieve algoritmen. Het principe is hetzelfde: als een systeem is gevalideerd, betrouwbaar presteert en voldoet aan de juiste veiligheidsnormen, kan autonome werking zeer nuttig zijn.
Autonomie aan machines geven betekent dat menselijk toezicht wordt stopgezet. Moeten we altijd een mens in de loop houden – een cardioloog in de loop – zelfs als AI beter presteert dan een menselijke cardioloog?
Dat hangt volledig af van de specifieke toepassing. Ik denk niet dat er een universele regel kan zijn die voorschrijft dat er altijd een mens bij betrokken moet blijven. Neem bijvoorbeeld een insulinepomp. Die werkt al als een gesloten-lussysteem, en in dit geval zou voortdurende menselijke tussenkomst de prestaties juist verminderen in plaats van verbeteren.
De discussie is anders voor probabilistische systemen zoals generatieve AI. Dat is ook de reden waarom ik liever spreek over AI-systemen dan over AI-modellen. Een goed ontworpen systeem bevat veiligheidsmaatregelen, vooraf gedefinieerd gedrag en meerdere lagen van waarborgen. De mate van menselijk toezicht moet afhangen van hoe het gehele systeem is ontworpen, niet alleen van het onderliggende model. Daarom moet de vraag per geval worden beantwoord. Persoonlijk geloof ik niet dat er altijd een mens in de loop moet blijven.
Laten we nog een voorbeeld nemen: een smartwatch die boezemfibrilleren detecteert of voorspelt. Als een dergelijk systeem als zeer nauwkeurig zou worden gevalideerd, moet het dan automatisch aanbevelen dat een patiënt naar een arts gaat, of moet er altijd een arts bij betrokken zijn voordat die aanbeveling wordt gedaan?
Ik denk dat deze systemen vandaag de dag al zo werken. Hun rol is om de patiënt te waarschuwen, niet om beslissingen namens de patiënt te nemen. Neem bijvoorbeeld de Apple Watch. Als het iets ongewoons detecteert, geeft het een waarschuwing en raadt het aan om naar een arts te gaan. Ik denk dat dat precies de juiste aanpak is.
Uiteindelijk neemt de patiënt de uiteindelijke beslissing. Zelfs als een apparaat me waarschuwt dat iets levensbedreigend kan zijn en me adviseert onmiddellijk medische hulp te zoeken, kan ik er nog steeds voor kiezen dat niet te doen. AI moet aanbevelingen doen, geen bevelen geven.
Dus het moet altijd een aanbeveling blijven omdat patiënten een vrije wil hebben?
Natuurlijk. Absoluut.
U geeft leiding aan het Instituut voor Kunstmatige Intelligentie in de Geneeskunde aan de Charité. Waar werkt u momenteel aan? Wat zijn de belangrijkste projecten en doelstellingen van het instituut?
We zijn uitgegaan van een eenvoudige constatering: er is een implementatiekloof in de geneeskunde. Er is geen tekort aan AI-innovaties of veelbelovende technologieën, maar slechts weinig daarvan zijn onderdeel geworden van de dagelijkse klinische praktijk. Ons doel is die kloof te dichten door ziekenhuizen klaar te maken voor AI. Samen met verschillende organisatieonderdelen en partners binnen de Charité hebben we een AI-strategie ontwikkeld. Maar we hebben niet gewacht tot de strategie definitief was voordat we actie ondernamen. In maart trad deze officieel in werking en sindsdien zijn we volledig gefocust op de uitvoering ervan.
Een belangrijk onderdeel van die inspanning is het opzetten van een AI-platform dat veilige toegang biedt tot basismodellen binnen de hele organisatie. We willen dat clinici, onderzoekers en andere medewerkers op verantwoorde wijze gebruik kunnen maken van generatieve AI, terwijl we tegelijkertijd de mogelijkheid creëren om onze eigen agentische AI-oplossingen te ontwikkelen en in te zetten.
Tegelijkertijd leggen we de technische en organisatorische basis voor de toekomst. Naast verschillende onderzoeksprojecten naar basismodellen en agentische AI creëren we een omgeving waarin deze technologieën kunnen worden geëvalueerd aan de hand van echte klinische gegevens in plaats van in geïsoleerde onderzoeksomgevingen. Uiteindelijk is dat onze missie: een ziekenhuis opbouwen waar AI veilig, verantwoord en op grote schaal kan worden geïntroduceerd.
Dus is het beter om te beginnen met een AI-strategie en de juiste infrastructuur op te bouwen voordat afzonderlijke technologieën in een organisatie worden geïntroduceerd?
Absoluut. Anders raakt de invoering van AI al snel versnipperd en moeilijk te beheren. Een organisatie moet eerst definiëren wat ze wil bereiken. Is het doel om voorop te blijven lopen in het onderzoek? Om de kwaliteit van de zorg te verbeteren? Om de efficiëntie te verhogen? Of al het bovenstaande? Pas daarna moet ze beslissen welke AI-technologieën die doelstellingen het beste ondersteunen. AI moet strategisch worden geïmplementeerd, niet opportunistisch.
Bij het implementeren van AI moeten organisaties ook beslissen welke modellen ze gaan gebruiken. Is er al voldoende bewijs om besluitvormers ervan te overtuigen dat AI de kwaliteit van de zorg of de resultaten voor patiënten verbetert?
Dat hangt af van wat je onder een klinische toepassing verstaat. Het eerste onderscheid is of we het hebben over een medisch hulpmiddel dat onder de MDR valt of over een niet-MDR-toepassing. Voor niet-MDR-toepassingen is het overtuigen van mensen niet langer de grootste uitdaging. In feite kan het tegenovergestelde waar zijn. Veel mensen zien AI nu als een technologie die bijna elk probleem kan oplossen, en dat is op zich al een risico.
Daarom is het zo belangrijk om een AI-strategie te hebben. Deze biedt duidelijke prioriteiten, stelt grenzen vast en zorgt ervoor dat AI op een gecontroleerde en verantwoorde manier wordt geïntroduceerd. Zelfs buiten het toepassingsgebied van de verordening inzake medische hulpmiddelen moeten we er nog steeds voor zorgen dat de systemen die we ontwikkelen en implementeren veilig, betrouwbaar en geschikt zijn voor een omgeving met hoge risico’s, zoals de gezondheidszorg. Toepassingen die onder de MDR vallen, zijn natuurlijk een heel ander verhaal, omdat ze aan een veel strenger regelgevingskader moeten voldoen voordat ze in de klinische zorg kunnen worden gebruikt.
Met zoveel AI-modellen die zich zo snel ontwikkelen, hoe bepaal je dan persoonlijk of een model klaar is voor klinisch gebruik?
Verschillende klinische toepassingen vereisen verschillende modelcapaciteiten. In de meeste gevallen zijn de beschikbare basismodellen niet ontwikkeld voor jouw specifieke gebruikssituatie, dus je kunt er niet zomaar van uitgaan dat ze in jouw omgeving goed zullen presteren. Daarom is lokale evaluatie essentieel. Momenteel moet elk model worden getest in het licht van de klinische taak waarvoor het bedoeld is, voordat het in de praktijk kan worden gebruikt.
Wat betekent het voor u als arts om medische AI te vertrouwen? Wanneer vertrouwt u persoonlijk op AI?
Als arts beoordeel ik AI op dezelfde manier als ik een nieuw medicijn, een biomarker of een diagnostische test zou beoordelen. Ik zoek naar robuust klinisch bewijs dat de veiligheid en verbeterde patiëntresultaten aantoont. De norm zou voor AI niet anders moeten zijn. Als het bewijs er is, vertrouw ik de technologie.
Het gaat dus om bewijs, niet om een algemeen, vaak abstract concept van vertrouwen.
Ja. Als er solide klinisch bewijs is, dan vertrouw ik AI. De geneeskunde kent tal van voorbeelden waarbij we het onderliggende werkingsmechanisme niet volledig begrijpen. Lithium is daar een van. We schrijven het voor omdat decennia aan klinisch bewijs aantonen dat het werkt, ook al begrijpen we nog steeds niet helemaal waarom.
Uiteindelijk gaat het om de afweging tussen voordelen en risico’s, ondersteund door robuust bewijs. Hetzelfde principe zou moeten gelden voor AI. We hoeven niet elk aspect te begrijpen van hoe een model tot zijn conclusies komt, zolang er maar overtuigend bewijs is dat het veilig en effectief is en de resultaten voor patiënten verbetert.
Hoe zou een ziekenhuis als de Charité er in 2030 uit moeten zien?
Dit is natuurlijk mijn persoonlijke visie, en die kan beïnvloed zijn door het feit dat ik nauw betrokken ben bij het vakgebied van AI. Ik stel me een autonoom, AI-klaar ziekenhuis voor waar artsen, verpleegkundigen, bestuurders en onderzoekers AI-agenten kunnen creëren om problemen in hun dagelijkse werk op te lossen. Sommige agenten zouden gestandaardiseerde werkprocessen ondersteunen, terwijl andere op maat kunnen worden gemaakt voor individuele patiënten, specifieke patiëntengroepen, ziekenhuisafdelingen, afdelingen of zelfs de hele organisatie. Stel je voor dat een intensivist een monitoringagent opzet die is afgestemd op één ernstig zieke patiënt, of dat een afdelingsarts een agent vraagt om de naleving van richtlijnen bij alle patiënten op de afdeling te controleren.
Het scala aan toepassingen is enorm: van patiëntmonitoring en gepersonaliseerde waarschuwingen tot het controleren van richtlijnen, planning, facturering en vele andere administratieve en klinische taken. Als we erin slagen de juiste infrastructuur op te bouwen, zullen de mogelijkheden om de gezondheidszorg te verbeteren vrijwel onbeperkt zijn.
Maar grotere mogelijkheden brengen ook grotere verantwoordelijkheid met zich mee. Hoe krachtiger deze systemen worden, hoe groter de kans dat er nieuwe problemen ontstaan. Daarom hebben ziekenhuizen vanaf het allereerste begin de juiste waarborgen, governance en toezicht nodig.
