De zorg went langzaam maar zeker aan kunstmatige intelligentie (AI). Potentieel waardevol, vindt radioloog Sietske Rozie, want het kan nieuwe kennis en daarbij wellicht een nieuwe vorm van transparantie bieden op punten waar die nu niet bestaat. Maar ze mist de ethisch-filosofische discussie over de gevolgen van een bredere toepassing van AI. Wat gaat dat betekenen voor de rol van artsen, ook binnen haar vakgebied, én in breder perspectief voor de zorg als geheel?
Het was een uitdagende boodschap van Sietske Rozie op 11 april aan haar ruim 2.000 volgers op Twitter: ‘Artificial intelligence zonder limits; stel je voor: 2030, AI-zorgverzekeraar stuurt een pushbericht naar chirurg: volgens de AI-hpbMDO had niet u maar de interventieradioloog de metastase moeten behandelen. We sturen u een rekening voor het te veel gedeclareerde bedrag’.
Reacties bleven niet uit. ‘Beetje big brother maar wel effectief’ was de eerste. Een ander wilde weten: ‘Suggereer je nu dat chirurgen op MDOs operatie-indicaties zitten te stellen bij gemetastaseerde patiënten om daar zelf beter van te worden? Of bedoel je dat AI vooraf een zinnige bijdrage kan leveren aan het kiezen van de meest optimale behandelmodaliteit?’. Haar antwoord: ‘Nee ik suggereer dat we nu (op tijd) moeten bespreken welke rol AI gaat spelen. Dat hebben we met betrekking tot big tech helaas niet vooraf gedaan. Het is een gedachtenexperiment, belangrijk’. Dat antwoord kreeg bijval.
Voer het gesprek nú
Het gesprek dat Rozie bedoelt, wordt naar haar mening nu onvoldoende gevoerd. Ze zegt: “Ik vraag me af of zorgprofessionals zich realiseren wat het betekent als een deel van ons werk door algoritmen wordt overgenomen. Big tech werkt nu aan een eigen supreme court – zie Facebook (de Oversight Board)– maar dat is pleisters plakken achteraf. AI is handel aan het worden, ook in de zorg. Daarbij dringt zich de vergelijking op met de komst van robotchirurgie: Bij de invoering nog niet bewezen beter, maar ieder ziekenhuis wilde zo’n robot hebben. Het is dus nú tijd om het gesprek over AI te voeren, om herhaling hiervan te voorkomen.”
Rozie zegt er direct bij dat ze geen tegenstander van AI is. “Een deel van ons werk betreft interpretatie van data en kan ondersteund worden door AI, met kwaliteitsverbetering als doel. Een ander deel van het werk is gedrag. Een deel daarvan is nu niet digitaal te traceren, maar als je het omzet in data is het potentieel waardevol en kan AI ook daarbij van waarde zijn als ondersteuning. Hetzelfde geldt voor vroege detectie met bijvoorbeeld sensoren in devices of in en om het huis. Kortom: nieuwe kennis genereren door data die we nu nog niet beschikbaar hebben om te zetten in bruikbare informatie. De analyse van die data middels AI kan inzicht geven waar we dit nu nog niet hebben. Dit kán leiden tot een transparantie die positief kan uitpakken. Maar dan moeten we het wel gaan hebben over de vraag hoe we dan omgaan met die nieuwe informatie, zoals het voorbeeld in mijn tweet: kunnen we dat aan?”
Doorschieten in transparantie
Als voorbeeld van transparantie noemt Rozie het onderzoek van twee promovendi van hoogleraar interventieradiologie Jim Reekers (Amsterdam UMC) naar de mogelijkheid om myomen non-invasief te behandelen. De conclusie van het duoproefschrift uit 2007: kortere ziekenhuisopname, minder ingrijpend, goedkoper en in termen van kwaliteit van leven gelijkwaardig aan verwijdering van de baarmoeder. Maar: de gynaecoloog moet de patiënt ‘afstaan’ aan de interventieradioloog en daarom kwam dit niet van de grond. Reekers won er de Briljante Mislukkingen Award Zorg 2014 mee.
“Goed dat zoiets publiek transparant wordt”, zegt Rozie. “Maar transparantie kan ook doorschieten, bijvoorbeeld als AI nu al wordt genoemd als kwaliteitseis terwijl we het gesprek nog niet hebben gevoerd over de (meer)waarde ervan ten opzichte van humane intelligentie. Of als een ziekenhuisbestuurder zegt door de ontwikkeling van AI over een paar jaar geen radiologen meer nodig te hebben. Iets wat in de hand wordt gewerkt als wordt gesteld dat de radioloog door de inzet van AI ’s nachts niet meer zijn bed uit hoeft te komen. Dat is het onterecht in de uitverkoop zetten van je vak. Maar zulke gesprekken worden wel gevoerd, en het wordt zelfs gebruikt als verkoopargument door AI-ontwikkelaars.”
Artsen zeggen ook het te druk te hebben en dus blij te zijn dat AI hun werk kan verlichten. Soms zelfs vergezeld van de stelling dat daarmee burn-out kan worden voorkomen, schetst Rozie. “Dan wordt AI mijn inziens gebruikt als de verkeerde oplossing voor het bekende probleem van het opdrijven van de zorgproductie. Een vorm van cirkelredeneren waarin ik mij in ieder geval niet kan vinden. Want als de radioloog door de inzet van AI ’s nachts niet meer nodig is, ligt de vervolgvraag voor de hand: ‘Waarom overdag wel dan?’ Maar wie investeert dan in die AI, doet de neuroloog dat, het ziekenhuis? Of huurt dat een buitenlands teleradiologiebedrijf in? Wie bel je als je de uitslag van dat bedrijf niet begrijpt of vertrouwt? Wie is verantwoordelijk als op basis van AI-diagnostiek diagnoses worden gemist of ten onrechte worden gesteld? En: in hoeverre vindt de patiënt dit alles wenselijk?”
Toys for boys
AI neemt nu over het algemeen nog niet al echt werk over. Rozie: “Maar betekent dat dat we nog niet aan de ethisch-filosofische discussie over de waarde ervan toe zijn? Ik denk dat we die discussie nu wél al moeten voeren, want AI-oplossingen vinden al hun weg naar de zorgpraktijk, bijvoorbeeld voor de IC, pathologie en radiologie.”
In dit kader heeft de Nederlandse Vereniging voor Intensive Care (NVIC) data governance expert Lies van Gennip, aangesteld als kwartiermaker AI. Dat betekent dat de NVIC zeer zorgvuldig met de waarborging van data-governance bezig is. De Nederlandse Vereniging van Radiologie is ook nauwkeurig bij het opzetten van een landelijke beeldbank.
“Het is belangrijk dat de zorgvuldigheid over AI-implementatie expliciet word benoemd, en telkens wordt herhaald”, meent Rozie. “Want er is een grote spreiding tussen collega’s die nog niets weten over AI en collega’s die er al behoorlijk veel over weten. Het is dus belangrijk dat alle facetten en gevolgen van het gebruik ervan telkens opnieuw worden benoemd om iedere zorgprofessional te bereiken.”
Die urgentie van herhaling bemerkt Rozie niet overal: “Ik heb het idee dat de collega’s die er al langer mee bezig zijn zichzelf die vraag wel stellen, maar dat degenen die het slechts als een interessante tool zien – toys for boys – vooral kijken naar het korte termijn-voordeel. Over angst voor AI wordt soms wel gesproken, maar dan vooral vanuit het perspectief van de patiënt: over privacy en eventuele onbewuste bias en discriminatie die in de algoritmen kan sluipen, als data die gebiased is wordt gebruikt voor training en testen van een model.”
En die bias is niet ondenkbaar, weten we van het voorbeeld van een AI-module in auto’s om een aanrijding met een persoon te voorkomen. Die week uit naar een andere persoon met een donkere huiskleur omdat hij die ‘herkende’ als boom.
Geen gesprekspartner
Ondertussen speelt in de VS en andere delen van de wereld al de ontwikkeling dat steeds minder geneeskundestudenten kiezen voor de radiologie. “Ze zien het niet meer als een vak met toekomst”, zegt Rozie. “Onder coassistenten hier in Nederland hoor ik dit soms ook al. Er speelt dus wel wat. Natuurlijk verandert onze rol als radiologen voortdurend, dat is ook goed. De vraag is alleen hoe we de rol van AI in die voortdurende verandering plaatsen, en die vraag wordt nog veel te weinig gesteld.” Het is dus van belang dat geneeskundestudenten onderwijs krijgen over AI zodat zij de impact die het zal krijgen op waarde kunnen schatten bij hun keuze voor radiologie als specialisatie.
Weten radiologen voldoende waar ze het over hebben als ze het over AI hebben? “De radiologen in opleiding leren er via facultatief onderwijs over”, zegt Rozie. “Ik denk wel dat ze ongeveer weten wat er speelt, maar het is geen verplicht onderwerp. De huidige radiologen moeten de kennis ook nog opnemen, om een goede gesprekspartner voor het ziekenhuisbestuur zijn over investeringen. De informatie die wij consumeren, is vooral van technische, juridische en financiële aard. Maar er is geen verdiepende discussie over wat AI voor de toekomst van de zorg gaat betekenen. Ik vind dat die nodig is. Niet om het AI-feestje te bederven, maar omdat we het juist nu moeten hebben over wat het ons gaat brengen, in plaats van achteraf te moeten constateren hoe het ons werk onomkeerbaar heeft veranderd.”
