Kortgeleden publiceerde het Centrum voor Ethiek en Gezondheid (CEG) het rapport ‘Kunstmatige oplossingen? De ethiek van AI voor gezondheid en zorg’. De boodschap is helder: de verwachtingen van AI voor gezondheid en zorg zijn hooggespannen, maar er is te weinig aandacht voor de ethische vragen. Biedt AI zinnige oplossingen? Kan AI zorgvuldig worden toegepast? Een interview met Beatrijs Haverkamp en Virgil Rerimassie, senior onderzoekers en medeauteurs van het rapport.
Het CEG onderzocht hoe AI kan bijdragen aan grote uitdagingen in de zorg – personeelstekorten, vergrijzing en mentale gezondheidsproblemen – en welke morele vragen hierbij spelen. Om de politieke en maatschappelijke discussie te stimuleren over hoe we met AI het goede doen op de goede manier, introduceert het CEG een denkkader met vijf denkstappen. En een overzichtelijke checklist om AI-toepassingen te beoordelen op zinnig en zorgvuldig gebruik (te zien op de volgende pagina).
Begin bij het probleem
De kern van het denkkader is simpel, maar volgens de onderzoekers ook meteen het grootste struikelblok: begin bij het probleem, niet bij de technologie. “Er wordt veel verwacht van AI, zonder dat er altijd goed wordt nagedacht over welk probleem die AI dan moet oplossen, of wat het probleem eigenlijk is”, aldus Haverkamp.
Slimme verslaglegging is daarvan een sprekend voorbeeld: “Dat wordt gezien als een oplossing voor het probleem dat men administratiedruk noemt. Maar ligt het echte probleem daarbij niet eigenlijk dieper? Waar komt die administratiedruk vandaan? En is een deel van de oplossing niet ook dat we meer vertrouwen geven aan zorgverleners, zodat ze minder hoeven vast te leggen?” Een slimme app die het vastleggen van informatie gemakkelijker maakt, kan de informatiehonger juist vergroten, want there's an app for that.
Rerimassie herkent dit patroon: “AI is vaak een plan B dat plan A overschaduwt. Maar als we kijken naar de problemen die er volgens de grote adviesinstanties zijn, en naar de oplossingsrichtingen waaraan wordt gedacht, dan wordt technologie vaak niet als eerste keuze aangereikt.”
Empathieprobleem of tijdsprobleem?
Een van de hardnekkigste risico's – en een van de redenen waarom vaak vanuit de techniek en niet vanuit het probleem wordt gedacht – noemt het CEG het ‘technosolutionisme’: het idee dat elk probleem met technologie is op te lossen, vaak commercieel gedreven.
Rerimassie verwijst ter illustratie naar onderzoek naar chatbots van Tamar Sharon, filosoof en pionier in onderzoek naar de ethische implicaties van digitalisering. “In studies naar de ervaring van chatbotgebruik scoren chatbots vaak hoger op empathie dan artsen. Wat je vervolgens ziet, is dat het probleem wordt gedefinieerd als een empathieprobleem dat met technologie kan worden opgelost.” Maar empathie opbouwen kost tijd en aandacht – een schaars goed in de zorg. “Je kunt dus stellen dat we geen empathieprobleem hebben, maar een tijdsprobleem. En dat we juist moeten inzetten op oplossingen die zorgen dat zorgprofessionals tijd houden voor wat zij vaak het mooiste vinden aan hun vak: aandacht geven, empathie tonen, persoonlijk contact.”
"Als we niet nadenken over welke problemen we willen oplossen, zullen veel AI-toepassingen in de zorg zijn als een pleister voor een gebroken been. Bovendien gaat de hi-tech pleister die AI heet vaak gepaard met fundamentele ethische vragen."
Martine de Vries - CEG-voorzitter
Ook op collectief niveau signaleert het CEG risico's die te weinig aandacht krijgen: gezondheidsverschillen, de ecologische voetafdruk van AI en afhankelijkheid van techbedrijven. “Dat zijn heel hardnekkige problemen, ook in de zin dat ze hardnekkig worden genegeerd”, aldus Haverkamp.
Autonomie versus eenzaamheid
Ook als AI een zinvolle bijdrage kan leveren, betekent dat niet automatisch dat AI zorgvuldig kan worden ingezet zonder morele waarden aan te tasten. “Bij AI-monitoring van thuiswonende ouderen bijvoorbeeld, botsen autonomie en verbondenheid: het kan ouderen helpen langer zelfstandig thuis te wonen, maar tegelijk zorgen voor minder persoonlijk contact en problemen rondom privacy. Hoe hak je in zo’n geval de knoop door en weeg je goed de belangen af?” Een pasklaar antwoord is er niet, zegt Haverkamp, maar wel een overkoepelende leidraad: “Dat is een kwestie van goed evalueren, samen met alle relevante betrokkenen, in alle fasen van de beoordeling.”
Testcase voor de doorbraakmiddelen
Het gesprek komt uit bij de AI-toepassingen waarop VWS via de AZWA-doorbraakmiddelen inzet: spraakgestuurd rapporteren en capaciteitsplanning. Het CEG onthoudt zich van een oordeel over deze beleidskeuzes, maar de onderzoekers willen wel vanuit het eigen denkkader reflecteren.
Beiden zijn het erover eens dat deze inzet van de doorbraakmiddelen een mooie testcase voor het CEG-denkkader kan zijn. “Wat ik wel zonde zou vinden, is als het optimisme over deze oplossingen ertoe leidt dat we onszelf niet meer de vraag stellen welk probleem we nu precies aan het oplossen zijn”, zegt Rerimassie.
In verband met capaciteitsplanning wijst Haverkamp op het risico van een onbegrensde zorgvraag. “De zorgvraag is in beginsel oneindig. Een capaciteitsplanner die saai werk uit handen neemt, klinkt aantrekkelijk. Maar zonder scherpe keuzes lopen we het risico dat zo’n AI-oplossing de zorgdruk alleen maar vergroot, simpelweg omdat het kan.”
AI als spiegel
Wat de twee CEG-onderzoekers vooral voor ogen staat, is een breed gedragen toekomstvisie op de Nederlandse zorg – naar het voorbeeld van de eerdere kabinetsvisie op biotechnologie. “Ik zie AI als een enorme spiegel”, zegt Rerimassie. “Het dwingt ons om onszelf af te vragen: wat vinden we nu echt belangrijk in de zorg? Pas als we het daarover eens zijn, wordt duidelijk welke rol AI kan spelen.” Het CEG hoopt dat hun rapport, ethiekbrief en stappenplan hieraan zal bijdragen – niet als eenmalige exercitie, maar als vast onderdeel van elke beslissing over AI in de zorg.
Dat geldt volgens Rerimassie ook als een AI-traject al in gang is gezet: er is altijd een weg terug. Hij waarschuwt voor het onvermijdelijkheidsdiscours: het idee dat AI er toch komt en we het maar beter kunnen sturen. “Dit staat een goede, fundamentele discussie in de weg. Maar we willen vooral benadrukken dat hier uiteindelijk menselijke keuzes worden gemaakt over de vraag of we dit wel of niet willen.”
Een tegenstander van AI is het CEG zeker niet: “Wij zijn vóór het aanpakken van de grote uitdagingen voor gezondheid en zorg”, aldus Haverkamp. “Wanneer AI daarbij kan helpen, moet dat gebeuren. Maar wel altijd doordacht, met het probleem als vertrekpunt, niet de technologie.”
Meer weten? Klink de link voor het volledige rapport, de ethiekbrief, de beslisboom en het persbericht op de verzamelpagina van het CEG.
