“In de operatiekamer van de toekomst staat kunstmatige intelligentie niet aan het roer. De chirurg blijft beslissen, maar krijgt ondersteuning van technologie die patronen herkent die voor mensen onmogelijk te overzien zijn”, zegt arts-onderzoeker - en sinds kort coördinator van het Amsterdam Center for AI & Health (AmsCAIH) - Sara Ben Hmido. Zij onderzoekt hoe een AI-model tijdens operaties kan helpen bij het voorspellen van risico’s. De grootste uitdaging zit volgens haar niet alleen in de techniek, maar vooral in vertrouwen, samenwerking en de manier waarop AI onderdeel wordt van de dagelijkse zorg.
“Een AI-model kan nog zo accuraat zijn, maar als zorgprofessionals er niet mee kunnen of willen werken, heeft het uiteindelijk geen impact op de patiëntenzorg.” Dat uitgangspunt vormt de kern van Ben Hmido’s onderzoek. Binnenkort wordt een AI-model voor het eerst getest tijdens operaties. Het model is ontwikkeld op basis van gegevens uit duizenden eerdere ingrepen en moet chirurgen ondersteunen bij het nemen van beslissingen.
Maar wanneer is zo’n pilot eigenlijk geslaagd? Is dat wanneer de voorspellingen van het model technisch kloppen, of pas wanneer een chirurg het systeem daadwerkelijk gebruikt en er waarde uit haalt? Volgens Ben Hmido zijn beide aspecten belangrijk. “Betrouwbare voorspellingen zijn belangrijk, maar uiteindelijk gaat het erom of AI ook werkt in de praktijk en van toegevoegde waarde is.”
De ontwikkeling van AI in de zorg draait volgens Ben Hmido om meer dan alleen een nauwkeurig algoritme. “Een AI-model moet zorgvuldig worden gevalideerd, aansluiten op de bestaande workflow en duidelijk maken wanneer een voorspelling wel en niet gebruikt kan worden. Tijdens de pilot wordt daarom niet alleen gekeken naar de nauwkeurigheid van het model, maar ook naar de manier waarop het systeem wordt gebruikt in de operatiekamer. Krijgt de chirurg de juiste informatie op het juiste moment? Past het systeem binnen de bestaande workflow? En ervaren artsen en operatieassistenten het daadwerkelijk als ondersteuning?”
Een succesvolle AI-toepassing is volgens haar meer dan een model met mooie cijfers in een wetenschappelijke publicatie. Uiteindelijk moet het zich bewijzen in de praktijk, op de plek waar patiënten worden behandeld. Pas wanneer blijkt dat een model betrouwbaar én praktisch toepasbaar is, kan de volgende stap worden gezet: een gerandomiseerde klinische studie waarin wordt onderzocht of AI-ondersteuning uiteindelijk ook leidt tot betere patiëntuitkomsten.
Van onderzoek naar zorg
Veel AI-innovaties laten veelbelovende resultaten zien tijdens onderzoek, maar bereiken niet de dagelijkse praktijk. Volgens Ben Hmido ligt daar een belangrijke uitdaging voor de toekomst. “Het ontwikkelen van een goed AI-model is slechts het begin. Een model moet zorgvuldig worden gevalideerd en duidelijk maken wanneer een voorspelling wel en niet kan worden gebruikt. Ook nadat een systeem in gebruik wordt genomen, blijft het belangrijk om de prestaties te volgen.”
Dat is nodig omdat de zorg voortdurend verandert. Patiëntenpopulaties veranderen, behandelmethoden ontwikkelen zich en werkprocessen worden aangepast. Een AI-model moet daarom niet alleen slim zijn, maar ook betrouwbaar blijven functioneren in een veranderende omgeving.
Samenwerking tussen mens en AI
Gesprekken met patiënten vormen een belangrijk onderdeel van het onderzoek. Daarbij werd onderzocht hoe zij kijken naar het gebruik van AI tijdens hun behandeling. De uitkomsten verrasten Ben Hmido enigszins. Waar vaak wordt gedacht dat patiënten terughoudend zijn tegenover kunstmatige intelligentie, blijkt de werkelijkheid genuanceerder.
“Patiënten staan veel meer open voor AI dan vaak wordt gedacht. De belangrijkste voorwaarde is duidelijkheid. Patiënten willen begrijpen waarvoor AI wordt gebruikt, welke rol het speelt in hun behandeling en wie uiteindelijk verantwoordelijk blijft voor de beslissing.”
Voor deze patiënten draait vertrouwen minder om de technologie zelf en meer om de manier waarop die wordt toegepast, aldus Ben Hmido. Zij willen weten dat een arts wordt ondersteund door een AI-applicatie, maar niet wordt vervangen. Daarom moet het patiëntenperspectief niet pas aan het einde van een innovatieproces worden meegenomen, maar vanaf het begin onderdeel zijn van de ontwikkeling.
"Technologie moet aansluiten bij de zorg, niet andersom"
Juist omdat AI steeds meer mogelijkheden biedt, is het belangrijk om helder te houden welke rol technologie in de operatiekamer krijgt, vervolgt Ben Hmido. “AI geeft een advies. De beslissing blijft altijd bij de chirurg. Het model is bedoeld om extra informatie beschikbaar te maken, niet om het klinisch oordeel over te nemen. Tegelijkertijd vraagt dat om bewustzijn bij zorgprofessionals. Ook mensen kunnen immers worden beïnvloed door technologie.”
Ben Hmido noemt daarbij het risico op ‘automation bias’. Dat is de neiging om een geautomatiseerd advies automatisch als juist te beschouwen. In andere sectoren wordt daar al langer rekening mee gehouden. Zo worden beveiligingsmedewerkers op luchthavens getraind om kritisch te blijven kijken naar technologie en niet blind op systemen te vertrouwen. Een vergelijkbare aanpak kan ook in de zorg belangrijk worden. Niet alleen onderzoeken hoe goed een AI-model voorspelt, maar ook hoe professionals ermee omgaan. “De veiligheid zit uiteindelijk dus in de samenwerking tussen mens en AI”, vindt Ben Hmido.
Slimme ondersteuning
Ben Hmido ziet de huidige ontwikkelingen als een eerste stap richting een operatiekamer waarin data beter worden benut als aanvulling op de ervaring van chirurgen. Tijdens een operatie komen grote hoeveelheden informatie samen: de medische voorgeschiedenis, beeldvorming, laboratoriumuitslagen en realtime gegevens uit de ingreep zelf.
Voor mensen is het onmogelijk om al die informatie tegelijkertijd te verwerken en met elkaar te verbinden. Op dit punt ligt precies de kracht van AI. “Geen mens kan duizenden vergelijkbare operaties overzien en vervolgens dat inzicht toepassen. AI kan juist helpen om patronen te herkennen en relevante informatie naar voren te halen op het moment dat die nodig is. Bijvoorbeeld door vroegtijdig risico’s tijdens een operatie te signaleren of de aandacht van een zorgprofessional te vestigen op belangrijke ontwikkelingen tijdens een behandeling.”
De toekomst ziet Ben Hmido daarom niet als een operatiekamer waarin één groot AI-systeem beslissingen neemt, maar als een omgeving waarin verschillende toepassingen op de achtergrond samenwerken.
Vanzelfsprekendheid
Wanneer Ben Hmido tien jaar vooruitkijkt, verwacht zij geen enkele grote doorbraak die de zorg volledig gaat veranderen. De grootste verandering zal volgens haar zitten in de vanzelfsprekendheid waarmee AI onderdeel wordt van dagelijkse processen. “Ik verwacht dat we over tien jaar niet meer spreken over ‘AI in de zorg’, maar dat het, net zoals het elektronisch patiëntendossier, een normaal onderdeel van het ziekenhuis is. De belangrijkste vraag wordt dan niet meer óf AI wordt gebruikt, maar hoe ervoor wordt gezorgd dat het veilig, verantwoord en mensgericht gebeurt.”
Over het AmsCAIH
Het Amsterdam Center for AI and Health (AmsCAIH) is het expertisecentrum voor AI en gezondheid van het onderzoeksinstituut Amsterdam Public Health (APH) van Amsterdam UMC, VU en UvA. Sara Ben Hmido is de coördinator van het centrum. Binnen AmsCAIH worden onderzoek, onderwijs en toepassing van AI in de zorg met elkaar verbonden.
Voor Ben Hmido spelen studenten, promovendi en jonge onderzoekers daarin een belangrijke rol. “Zij brengen nieuwe perspectieven mee en bewegen vaak gemakkelijk tussen verschillende disciplines. De toekomst van AI in de zorg vraagt om mensen die technologie begrijpen, maar ook om de praktijk, de zorgomgeving waarin die technologie terechtkomt.”
Juist die verbinding tussen geneeskunde, techniek en maatschappij is volgens haar essentieel. “AI ontwikkelen is één stap, maar ervoor zorgen dat patiënten en zorgprofessionals er daadwerkelijk beter van worden, is de uiteindelijke uitdaging. Want de toekomst van AI in de zorg draait uiteindelijk niet om machines die het werk overnemen. Het draait om technologie die mensen helpt om betere beslissingen te nemen, precies op het moment dat het ertoe doet.”
