Door algoritmes en software direct aan het bed van kritiek zieke patiënten in te zetten, worden medisch specialisten bij de Intensive Care-afdeling van Amsterdam UMC ondersteund bij belangrijke beslissingen over de behandeling. “Intensivisten staan dagelijks voor de belangrijke vraag: wanneer is het ideale moment om een patiënt te ontslaan. Door software in te zetten bij patiënten die in aanmerking komen voor ontslag, kunnen we de kans voorspellen op heropname of ongewenst overlijden binnen een week na dit ontslag. Zo kunnen we de vraag over het ideale ontslagmoment veel beter beantwoorden", aldus Patrick, intensivist in het Amsterdam UMC.
In dit artikel beschrijven Wouter Kroese (medeoprichter Pacmed) en Patrick Thoral (Intensivist in Amsterdam UMC en nauw betrokken bij de ontwikkeling en implementatie van Pacmed Critical) welke stappen gezet zijn om tot een succesvolle inzet van AI op de IC van Amsterdam UMC te komen. Daarbij zijn drie fasen van belang.
Fase 1: verantwoorde ontwikkeling
De belangrijke eerste stap bij de ontwikkeling is om tot een vraagstuk te komen waarbij AI daadwerkelijk van toegevoegde waarde kan zijn. Zonder goede en betrouwbare data is het onmogelijk om AI op basis van klinische data verantwoord en waardevol in te zetten. Op de IC worden enorme hoeveelheden data continu en vaak automatisch verzameld in het kader van patiëntenzorg. Dit maakt de IC dan ook een geschikte omgeving voor de toepassing van AI. Omdat de data niet primair verzameld worden om beslissingsondersteuning op te ontwikkelen, is echter enorm veel tijd en expertise nodig om van het spoor van data dat bij de IC-zorg verzameld wordt, te komen tot een correct en uniform digitaal spiegelbeeld van iedere patiënt.
Er zijn vele duizenden uren van artsen en nog veel meer uren van data scientists en softwareontwikkelaars nodig om te begrijpen hoe de data tot stand zijn gekomen en om te zorgen dat deze data een correcte weerspiegeling vormen van de klinische realiteit.
Een aantal belangrijke onderdelen hierin zijn:
Validatie van de data: in de data kunnen fouten en gaten zitten. Het klinisch proces of de registratie in de data daarvan kan veranderen over tijd. Er is zowel een technische als medische validatie nodig om te toetsen of alles correct geregistreerd is. Uiteindelijk zijn duizenden parameters gevalideerd voor de ontwikkeling van dit algoritme: labwaarden en medicatie, gegevens over opname, observaties van verpleegkundigen, instellingen van apparatuur en vele andere zaken, van 25.000 patiënten. Bij het ontwikkelen van een waardevol algoritme is het heel belangrijk om de uitkomstmaat (wat het algoritme voorspelt) goed te definiëren.
In Pacmed Critical is daarbij gekozen voor de gecombineerde kans op heropname of ongewenst overlijden binnen een week. Deze uitkomst is namelijk exact en geeft duidelijk aan wat een arts en patiënt willen voorkomen (instabiliteit van de vitale functies die leidt tot heropname op de IC en in sommige gevallen overlijden op de verpleegafdeling). Zeker nu aan het bed werken met kansen op basis van machine learning-algoritmen nieuw is voor zorgverleners, is gekozen voor een uitkomstmaat die relatief bekend is voor gebruikers. Heropnames zijn namelijk een belangrijke kwaliteitsindicator die al jarenlang verzameld en besproken worden op IC’s in heel Nederland.
Ook uit onderzoek met het LUMC is gebleken dat van 64 intensive care artsen 99 procent deze uitkomstmaat als waardevolle informatie bij besluitvorming ziet en dat >90 procent van hen AI beslissingsondersteuning met deze uitkomstmaat waardevol acht.
Een voorbeeld dat het belang van validatie van data goed weergeeft, is het definiëren van deze uitkomstmaat. Er zijn op de IC bijvoorbeeld gevallen dat een patiënt na een medische handeling buiten de IC naar een ander bed wordt verplaatst. Ook zijn er helaas patiënten die de IC verlaten waarbij behandeling gestaakt is en waarbij overlijden dus geen ongewenst negatief gevolg is van de ontslagbeslissing. Wanneer een algoritme ontwikkeld wordt op basis van foutieve voorbeelden van heropname of overlijden, kan dit grote negatieve gevolgen hebben voor de veiligheid en waarde van de beslissingsondersteuning. In nauwe samenwerking is daarom heel veel tijd besteed aan het goed definiëren van deze uitkomstmaat bij alle patiënten.
Medische verrijking van de data: om veilige en maximaal waardevolle algoritmen te ontwikkelen, is ook medische verrijking van data nodig. Concepten die heel belangrijk zijn in het leveren van goede zorg zijn dat vaak ook voor de ontwikkeling van waardevolle algoritmen. Deze concepten worden vaak niet geregistreerd, maar zullen uit de data moeten worden afgeleid. Denk hierbij aan de vochtbalans van een patiënt of de precieze duur van een beademingsperiode. Met een groot aantal experts is er bijvoorbeeld vele uren werk nodig geweest om op basis van medicatie, instellingen van toestellen en metingen van de patiënt een constructie te maken om van iedere patiënt goed vast te kunnen stellen wanneer deze beademd werd.
Harmonisatie van data: in ieder ziekenhuis worden data op een andere manier verzameld en ook over tijd verandert binnen ziekenhuizen hoe de data geregistreerd worden. Pacmed heeft in samenwerking met Amsterdam UMC en andere ziekenhuizen met tientallen mensen gewerkt aan het kunnen omzetten van data van meerdere jaren van meerdere ziekenhuizen (en dus ook EPDs) naar een uniform datamodel.
Fase 2: Implementatie in praktijk
Een nog grotere uitdaging dan de ontwikkeling is het implementeren in de praktijk. Om de software überhaupt te kunnen toepassen als medisch hulpmiddel is een CE-certificering nodig. Om deze certificering van Pacmed Critical (klasse 2a) te verkrijgen, hebben zeker 10 mensen van Pacmed full time een jaar moeten werken aan het opbouwen van een technical file en het doorlopen van alle audits. Ook medici en andere experts hebben hier een belangrijke rol in gespeeld. Om als organisatie een dergelijk medisch hulpmiddel in te mogen zetten is ook een gecertificeerd en getoetst kwaliteitsmanagement- systeem nodig. Hierin is vastgelegd op welke manier alle processen binnen Pacmed bijdragen aan veilige en waardevolle ontwikkeling en inzet van het medisch hulpmiddel.
Een volgende grote uitdaging is de integratie van de software in het EPD (en specifiek het Patient Data Monitoring System – PDMS - op de IC). Dit bestaat onder meer uit een real time dataconnectie, zodat het algoritme gevoed wordt met maximaal een kwartier oude data voor alle parameters die de software gebruikt om aan het bed tot een voorspelling te komen.
Om te kunnen waarborgen dat de software valide informatie geeft, wordt continu gemonitord of de datastromen en de populatie op de IC voldoende aansluiten op de huidige versie van het algoritme en de data waarop dat algoritme gebaseerd is. De data die door de IC stroomt kan bijvoorbeeld veranderen door beleidsaanpassingen in het ziekenhuis (zoals het verplaatsen van cardiochirurgie naar een andere locatie), een pandemie, het veranderen van het klinisch beleid (veranderen van - de frequentie van - een laboratoriumtest) of de registratie van data. Met de door Pacmed ontwikkelde technologie wordt de validiteit van de datastromen en alle voorspellingen gemonitord en wordt ervoor gezorgd dat tijdig aanpassingen aan het algoritme of zelfs hertraining ervan worden gedaan.
Ook moet het beslissingsondersteunend systeem aan de voorkant in het PDMS worden geïntegreerd, zodat gebruikers met een druk op de knop de software kunnen gebruiken voor de patiënt die ze op dat moment behandelen.
Fase 3: Synergie arts en computer
We hebben er zeer bewust voor gekozen dat de software de zorgverlener ondersteunt. De combinatie van inhoudelijke kennis met klinische ervaring en intuïtie van de arts met de mogelijkheden om snel patronen te herkennen van een computeralgoritme zien we als mogelijkheden om de zorg te verbeteren. Nu AI daadwerkelijk in de praktijk wordt ingezet, kan geleerd worden hoe deze volledig nieuwe manier van tot kennis komen en van ondersteunen bij medische beslissingen het beste gedaan kan worden.
In wat voor situaties en bij wat voor patiënten zijn dit soort voorspellingen van grootste waarde? Wanneer veranderen clinici wel en niet van gedrag? Hoe worden de inzichten van de software geïnterpreteerd en met welke aanvullende informatie (bijvoorbeeld van trends van bepaalde belangrijke waarden) helpt hen het meest om de beste beslissing te nemen voor hun patiënt? In welke gevallen is een arts nog niet zeker van de waarde of betrouwbaarheid van het algoritme en hoe wordt daar dan mee omgegaan? Hoe wordt een patiënt betrokken bij besluitvorming?
Deze en vele andere vragen kunnen echter pas volledig beantwoord worden vanuit de praktijk. Het is belangrijk dat AI op klinische data met deze primeur de ivoren toren verlaat. Pacmed is daartoe een 10 jarige R&D samenwerking met Amsterdam UMC aangegaan. Rondom het eerste gebruik zijn dan ook verschillende onderzoeken opgezet om te leren hoe en mogelijk maken dat deze technologie op verantwoorde wijze van maximale waarde is voor patiënten, zorgverleners en de capaciteitsuitdagingen in de zorg.
