Artificial Intelligence (hierna: AI) is bezig aan een snelle opmars in de zorg en is daarom ook een belangrijk focusgebied voor Deloitte. Binnen de toekomst van zorg heeft AI niet alleen consequenties voor de patiënt, maar daarmee onlosmakelijk ook voor zorgmedewerkers en hun werk. Om te voorkomen dat alleen de techniek centraal staat, focust Deloitte zich op ‘humanAIzing work’, oftewel: het menselijker maken van werk, met AI als versneller. Wel is AI nog een onderwerp waaraan de zorg moet wennen en moet leren er op zorgvuldige en praktische manier mee om te gaan. En gelet op de snelle ontwikkelingen op AI-gebied – en ook op het gebied van de wet- en regelgeving erover – is het zaak dat ze tempo maakt. Erasmus MC heeft hieraan richting gegeven middels een competence center om de ontwikkeling op AI-gebied centraal te kunnen sturen.
AI is om meerdere redenen een belangrijk onderwerp voor de zorg, stelt Marly Kiewik, partner bij Deloitte. “Het speelt een rol in het creëren van een betere toegang tot de zorg, in het bieden van een betere ondersteuning van zorgmedewerkers en in het beheersen van de zorgkosten. We zien drie belangrijke toepassingsgebieden voor AI: in het primaire zorgproces, in het de meer indirecte – onder andere administratieve – processen, en voor het vergroten van de patiëntbetrokkenheid.”
Bij het eerste toepassingsgebied gaat het echt om de zorg zelf, over het voorspellen van ziekten bijvoorbeeld of het koppelen van informatie vanuit patiëntdossiers, beelden en door de patiënt verzamelde informatie – denk aan wearables en sensoren – in zorgprocessen. Het tweede is de achterkant: de administratie en de logistiek van de zorg. Voorbeelden hiervan zijn slimme planning en roostering op basis van patiëntvragen en beschikbaarheid van personeel. Maar ook het centraliseren van communicatie, wat nu veelal nog gebeurt met diverse apps en apparaten.
Kiewik: “Bij het derde, de patiëntbetrokkenheid, kan bijvoorbeeld worden gedacht aan het vergroten van de regie van de patiënt middels zelfdiagnostiek, of zich laten informeren door een digital human of chatbot in aanvulling op een medewerker. Op alle drie deze gebieden zien we dat nu al ervaring wordt opgedaan met AI. En het zal er op korte termijn nog heel veel meer voor gaan betekenen in de zorg.”
Barrière geslecht
Ook Simon Vermeer, chief information officer van het Erasmus MC, ziet dat de ontwikkelingen op dit gebied heel snel gaan. “De ontwikkeling van large language models heeft hier een enorme bijdrage aan geleverd”, zegt hij. “Die slechten de barrière die lang heeft bestaan tussen mens en technologie. We hebben technologie lang lastig gevonden, maar dankzij toepassingen op basis van dergelijke models kunnen we nu in onze eigen taal tegen computers en smartphones praten en krijgen we ook begrijpelijke boodschappen terug. Dat is waarop de zorg in het bijzonder zat te wachten, want daar werken veel mensen die minder vertrouwd met technologie zijn.”
Medisch inhoudelijk gebeurde in de zorg al heel veel met AI voordat die large language models er waren, schetst Vermeer. Op dit moment zit het Erasmus MC bijvoorbeeld in het aanbestedingsproces van een nieuw alarmsysteem. Daarbij is toepassing van technologie om alarmmoeheid bij medewerkers tegen te gaan heel belangrijk voor het ziekenhuis.
“Toen we met die alarmering begonnen, maten en signaleerden we alles. Dat wordt onwerkbaar voor de medewerkers. Dus kijken we nu naar de mogelijkheden van AI om dit gerichter te doen. Dit moet op een correcte manier gebeuren, conform wet- en regelgeving. Daarmee doen we nu ervaring op. Dat vertraagt natuurlijk, maar iedereen begrijpt dat je hierin zorgvuldig te werk moet gaan. Een voorbeeld hiervan is dat we ook al gebruikmaken van algoritmen om no-shows op de poli’s te voorspellen. Dat is aan minder stringente eisen onderhevig en is dus een goede manier om te leren hoe we AI aan de voorkant, voor het directe zorgproces, kunnen toepassen.”
Betrouwbaar en uitlegbaar
Punt van aandacht in de AI-ontwikkeling is dat bij machine learning niet altijd duidelijk is hoe de computer tot een antwoord komt. “Het mag niet door bias of door een fout in het algoritme tot de verkeerde uitkomst komen”, zegt Vermeer. Kiewik vult aan: “Je moet zeker weten dat je betrouwbare data en – waar dat mogelijk is – uitlegbare algoritmen hebt, anders ben je volledig afhankelijk van de uitkomst die de computer geeft.”
Waarbij ‘uitlegbaar’ altijd een grens zal kennen, stelt Vermeer. “Het algoritme van ChatGPT begrijpen we echt niet”, verduidelijkt hij. “Daarover gaat de discussie. We zijn ervaring aan het opdoen met AI door bijvoorbeeld de input/output-vergelijking zodanig vorm te geven dat we weten dat we met AI tot betrouwbare uitkomsten komen. Tot die tijd zetten we ChatGPT dus ook niet in voor medische toepassingen. Maar we beseffen wel dat we kennis erover moeten opdoen omdat het daar zeker een plek in gaat krijgen. Dus hebben we een platform ingericht om te ontwikkelen, leren en valideren. Er komt veel bij kijken.”
Zorgvuldig te werk gaan
Vermeer zegt volledig achter de voorzichtigheid te staan waarmee de zorg te werk gaat. “Maar ik zie ook dat de inzet van AI in de zorg onomkeerbaar is”, zegt hij. “We moeten dus leren hoe we het verantwoord kunnen toepassen, en ik weet zeker dat ons dat gaat lukken.”
Voor de medewerkers gaat dit een grote verandering betekenen, stelt Kiewik. “Het is te makkelijk om te stellen dat AI routinewerk gaat overnemen en dus meer ruimte gaat bieden voor de interessante onderdelen van het werk”, zegt ze. “Het gaat echter juist niet alleen om routinetaken. Het betekent ook dat zorgmedewerkers en de IT-collega’s steeds dichter bij elkaar zullen komen te staan. De IT-medewerkers komen meer op de voorgrond, richting het primaire zorgproces. De relatie tussen de twee wordt intenser.”’
Democratisering van IT
Dit proces wordt wel de democratisering van IT genoemd, zegt Vermeer. “ChatGPT is daar een mooi voorbeeld van, het is een krachtig middel dat heel makkelijk toepasbaar is. Maar dat geldt niet voor alle AI-toepassingen. Daarom zeggen we ook: er zijn veel vacatures in de zorg, kijk voor een deel daarvan eens naar mensen die daar verstand van hebben. Als meer medewerkers er vertrouwd mee worden, sluit ik niet uit dat het aantal IT’ers gaat dalen en dat medewerkers in het primair proces een ander profiel gaan krijgen.”
Dat heeft automatisch impact op opleidingen, denkt Kiewik. “En op de manier waarop de zorg mensen aanneemt. Daarbij wordt het zaak meer naar skills te kijken dan naar diploma’s.”
Toch zal dat tijd kosten, verwacht Vermeer. “De methodiek rond functieomschrijvingen blijkt vrij log. Het blijkt lastig in het hoofd de knop om te zetten dat we andere competenties nodig hebben van zorgprofessionals. Toch wordt dat met het steeds laagdrempeliger worden van IT-toepassingen wel haalbaar, zeker voor de jongere generatie.”
Borging
Erasmus MC heeft een competence center opgericht om de opschaling van pilot naar structurele inbedding van AI-toepassingen centraal te kunnen sturen. “Dat is nodig, want er komt ook veel wet- en regelgeving bij kijken”, zegt Vermeer. “Bedenk hierbij ook dat AI een medisch hulpmiddel wordt op het moment dat je het gaat toepassen in de zorg. Langs die lijn zal onder andere de Inspectie voor Gezondheidszorg en Jeugd dus ook gaan toezien op wat de zorg ermee doet. Je moet het echt borgen in de organisatie zodat het een routinematig onderdeel wordt van de bedrijfsvoering. De snelle ontwikkelingen op AI-gebied zetten er druk op om hierin snel stappen te zetten.”
Daarom ontstaan ook coalities van zorgaanbieders om samen kennis en kosten te delen, geeft Kiewik aan. En dat is ook nodig, meent Vermeer. “Erasmus MC is een organisatie met een forse schaal, maar voor kleine zorgaanbieders wordt het anders echt een uitdaging.”
De Europese Unie heeft inmiddels de EU AI Act1 gepubliceerd. “Een goede ontwikkeling”, zegt Vermeer, “want die geeft kaders. De act definieert wat verantwoorde toepassing van AI is, waarvoor het wel en niet mag worden ingezet en welke eisen daarbij moeten worden gesteld. Dat geeft richting aan de ontwikkeling die we er in de zorg mee doormaken. Tegelijkertijd verwacht ik dat er snel revisies op zullen komen. We zitten immers nog volop in het leerproces en zullen dus ook leren van de fouten die we daarin onderweg gaan maken.”
