Tijdens zijn opleiding tot internist besefte Michel van Genderen dat innoveren in de zorg hoognodig was. Inmiddels werkt de intensive care-arts Van Genderen met een team aan veilige en verantwoorde toepassing van AI in de zorg. In het publiekjaarverslag van 2024 en op de website van Amazing Erasmus MC vertelt hij over zijn ervaringen en de aanleidingen waarom hij zich inzet voor innovatie in de zorg.
“Kunnen we het ons veroorloven om technieken die zoveel kunnen betekenen links te laten liggen? Ik denk het niet”, meent Van Genderen. De eerste keer dat hij besefte hoe belangrijk innoveren is, was tijdens zijn eerste avonddienst op de intensive care (IC). Hij zorgde toen voor een ernstig zieke patiënt met een vleesetende bacterie en bloedvergiftiging.
Toen haar toestand verbeterde en ze van de IC kon worden ontslagen, voelde hij dat de missie geslaagd was. Enkele weken later kwam hij haar opnieuw tegen op de verpleegafdeling, waar ze aangaf last te hebben van nachtmerries en concentratieproblemen als gevolg van de IC-opname.
Hoewel ze destijds een folder met informatie had meegekregen, besefte Van Genderen dat iemand met zulke klachten moeite zou hebben om die überhaupt te lezen. Op dat moment besefte hij dat de nazorg beter moet en dat technologie daarin een belangrijke rol kan spelen. Hij zette daarop een onderzoek op naar het gebruik van virtual reality-brillen bij de behandeling van stress- en traumaklachten na een IC-opname.
Verdiepen in AI
Hij vertelt ook dat hij in 2018 zich ging verdiepen in artificial intelligence (AI). Van Genderen ziet virtual reality als waardevol voor patiënten, maar verwacht de grootste verandering van slimme toepassingen van data. Hij gelooft dat AI het vak ingrijpend gaat vernieuwen. Denk bijvoorbeeld aan AI die familiegesprekken vastlegt en samenvat, visite voorbereidt, risico’s op complicaties voorspelt en passende behandelingen adviseert. Ook kan AI volgens hem inschatten welke patiënten na een operatie sneller veilig naar huis kunnen.
Tweede carrière
Genoeg aanleiding voor Van Genderen om naast zijn baan als IC-arts een tweede carrière te starten als innovator in de zorg. Een rol die volgens hem goed past bij zijn persoonlijkheid: “Ik ben van nature kritisch en vraag me voortdurend af: kan dit niet slimmer, sneller of beter? Dat is precies de kern van innovatie: nieuwe ideeën durven uitproberen, investeren in vernieuwing én accepteren dat falen soms onderdeel is van succes.”
Werken met data en AI is in de zorg ziet hij inmiddels als pure noodzaak nu de druk op de zorg door onder meer de stijgende zorgvraag en het personeelstekort. Een van de initiatieven die Van Genderen samen met IC-afdelingshoofd prof. dr. Diederik Gommers opstartte is een ethieklab voor AI in de zorg. Het is een plek waar verpleegkundigen, artsen, data-wetenschappers en ethici samen werken aan één doel: kunstmatige intelligentie op een veilige en verantwoorde manier inzetten.
Ethieklab
Het ethieklab, met de volledige naam Responsible and Ethical AI in Healthcare Lab (REAiHL), is een samenwerking tussen het Erasmus MC, de TU Delft en de Erasmus Universiteit met steun van softwarebedrijf SAS. Begin 2025 werd het ethieklab kracht bijgezet toen de TU Delft, dankzij de samenwerking met het Erasmus MC, werd benoemd als officiële raadgever van de Wereldgezondheidsorganisatie op het gebied van AI in de zorg.
Het ethieklab REAiHL is een van de initiatieven binnen Convergence, de samenwerking tussen de TU Delft, Erasmus MC en de Erasmus Universiteit Rotterdam (EUR). Convergence richt zich op het vinden van oplossingen voor vraagstukken die zo complex zijn dat ze niet vanuit één discipline kunnen worden benaderd. Het AI-ethieklab is gevestigd in de DataHub van het Erasmus MC.
Het ethieklab werkt aan een solide basis voor het veilig en verantwoord toepassen van AI in de zorg. Volgens Van Genderen is dit hard nodig, omdat momenteel minder dan twee procent van de AI-modellen daadwerkelijk in de klinische praktijk terechtkomt. Veel modellen blijven steken in de prototypfase waarin alleen voorspellingen worden gedaan, maar dat is volgens hem onvoldoende.
De echte uitdaging ligt in de implementatie: het model moet daadwerkelijk kunnen worden gebruikt aan het bed van de patiënt. Daarbij is het essentieel dat zorgverleners en patiënten vertrouwen hebben in het model en dat het blijft voldoen aan wet- en regelgeving. Het ethieklab doet dat door zelf AI-modellen te ontwikkelen en in de kliniek te brengen.
Model met goede data
De grootste uitdaging in het gebruik van AI zit volgens onder meer de Wereldgezondheidsorganisatie in ‘gelijkheid’. Gelijkheid betekent in dit geval dat een AI-model een behandeling goed voorspelt ongeacht huidskleur, leeftijd, afkomst en andere variabelen. Van Genderen zegt dat daarin het risico schuilt omdat mensen hoe dan ook van nature bevooroordeeld zijn en die vooroordelen sluipen ook ongemerkt in de data. “Als we AI-modellen bouwen op basis van dertig jaar aan data ga je daarin die vooroordelen terugzien”, zegt hij.
Een model dat is getraind op slechte data, levert slechte uitkomsten op. Daarom moet je data eerst zorgvuldig controleren meent hij voordat je ermee aan de slag gaat, en is transparantie belangrijk. Het ethieklab werkt dan ook aan een stevig fundament. Dat betekent dat ze de data hebben gecheckt, goed hebben opgeslagen en hebben gekeken of het model geen foutieve informatie verzint en het model eerlijk is. Daarbij is het volgens Van Genderen ook belangrijk dat ze weten hoe het model werkt en ze zich bewust zijn van de eventuele risico’s en nadelen. Alle opgebouwde kennis op dit gebied is inmiddels in de in 2024 opgerichte Erasmus MC AI Accelerator.
