AI kan administratieve processen aanzienlijk versnellen en het is een zeer welkom hulpmiddel voor onderzoekers om grote hoeveelheden gegevens te analyseren en begrijpen. De grootste impact zal waarschijnlijk voelbaar worden in geavanceerde klinische toepassingen zoals diagnose en zorgverlening. Dankzij AI wordt het mogelijk om om geïndividualiseerde behandelplannen te maken en uit te voeren op basis van een complexe mix van datasets. Daarbij rekening houdend met de gezondheidsgeschiedenis van een patiënt, levensstijl, genomische make-up en persoonlijke voorkeuren. Er zijn echter verschillende ethische uitdagingen voor AI in de zorg. In dit artikel worden er door Deloitte een aantal van iets dichterbij bekeken.
Representatieve data en vertrouwelijkheid
Voor het 'voeden' van de data-hongerige AI-algoritmen wordt binnen gezondheidsplatformen gebruik gemaakt van verschillende systemen voor het verzamelen van data. Data van mensen, en zeker ook patiënten, staan vaak op veel meer plekken dan men zich realiseert. Daardoor wordt het geven van toestemming en de bewustwording van dataverzameling een lastig punt. Daarnaast bestaan datasets niet altijd uit een evenredig, representatieve verzameling van gegevens. In de praktijk tonen deze sets vaak een overwicht van blanke mannen versus vrouwen en mensen met een andere achtergrond.
De data van AI-systemen voor de zorg bevat veel gevoelige gegevens die voor andere partijen interessant kunnen zijn. Daarmee groeit het risico dat de vertrouwelijkheid tussen arts en patiënt wordt geschonden. Patiënten zijn eigenaar van de data en moeten inspraak hebben in de manier waarop deze worden gedeeld met partijen als verzekeraars en farmaceutische bedrijven. Daarom moet goed gekeken worden naar het potentieel voor misbruik en de prikkels die andere partijen aandrijven (bijvoorbeeld het verkopen van patiëntengegevens met winstoogmerk). Patiënten moeten het recht hebben om gegevens in te trekken zodra deze in geaggregeerde vorm zijn gebruikt.
Diagnose en besluitvorming
AI-tools nemen beslissingen die uit een zwarte doos lijken te komen, maar die volgen uit de keuze van data en de programmering van het algoritme. Dit is waar morele keuzes mogelijk worden gemaakt - door ontwikkelaars. Er moet dus altijd een manier zijn om te achterhalen waar beslissingen vandaan komen. En er moet een fysieke persoon zijn die uiteindelijk een beroep doet op vragen zoals wie als eerste moet worden behandeld of hoe lang de behandeling moet worden voortgezet. Een persoon die verantwoordelijkheid neemt als er iets misgaat.
Door AI zal waarschijnlijk de manier van werken én de opleiding van zorgprofessionals veranderen. De behoefte om alle kennis zelf, in hun eigen geheugen, op te slaan (te leren) daalt. Daarnaast is het wel belangrijk dat de zorgprofessionals over voldoende medische kennis blijven beschikken om de output van AI-algoritmen te beoordelen en, indien nodig, het besluit te kunnen nemen die output te negeren. Belangrijk is ook dat de efficiëntiewinsten nauwkeurig worden onderzocht: het uitpakken en verantwoorden van AI-beslissingen kost ook tijd en geld.
Naast het verminderen van de workload van de zorgprofessional, kan een AI-tool ook worden gebruikt als bewakingsinstrument. Daarbij worden gegevens verzameld om de prestaties van de zorgprofessional te evalueren. Dit kan gevolgen hebben voor het vertrouwen en het werkplezier.
Wet- en regelgeving voor AI in de zorg
Wat de bovenstaande voorbeelden duidelijk maken, is dat alle AI-toepassingen met zorg moeten worden gebruikt om inbreuken op privacy en mensenrechten te voorkomen. Vanwege de gevoeligheid van gegevens en beslissingen in de zorg is dit vooral van groot belang voor deze sector. De technologie moet veerkrachtig en veilig zijn. En het is van cruciaal belang om tijdens de hele levenscyclus van ontwikkeling en implementatie een scherp oog te hebben voor digitale ethiek. Daarmee rijst de vraag hoe we de vruchten kunnen plukken terwijl we aan de goede kant van de wet blijven en in overeenstemming met ethische principes? Om te beginnen moeten de relevante wet- en regelgeving worden geactualiseerd en gehandhaafd.
AI-toepassingen in het medische domein komen nu al onder toenemende regeldruk te staan. In de EU classificeert de ontwerpverordening voor AI de gezondheidszorg terecht als een gebied met een hoog risico en de regelgevingskaders worden bijgewerkt om de verschillende toepassingen van AI in de gezondheidszorg te dekken.
Op grond van de in mei 2021 ingevoerde EU-verordening voor medische hulpmiddelen worden softwaretoepassingen, waaronder AI-algoritmen, als een medisch hulpmiddel gekwalificeerd wanneer ze worden gebruikt voor een specifiek medisch doel. In Nederland treedt binnenkort de Wet elektronische uitwisseling zorggegevens in werking, met gevolgen voor alle zorgprofessionals en organisaties, maar ook voor hun ICT-aanbieders.
Waar te beginnen met AI in de zorg?
De eerste stap op de AI-reis is voor zorginstellingen is het beste te omschrijven als: repareer het sanitair. Ofwel, standaardiseer de te gebruiken gegevens en zorg ervoor dat deze geen fouten, weglatingen of ongerechtvaardigde vooroordelen bevatten. Gegevens moeten worden gelabeld volgens overeengekomen sectorbrede definities, zodat ze kunnen worden geaggregeerd en u echt kunt beginnen met het verbinden van de punten. Dit is een behoorlijke klus, maar het is niet nodig om alle gegevens in één keer op te schonen. Begin klein, met een set gegevens waarvan u weet dat deze van goede kwaliteit zijn, om een duidelijk omschreven probleem aan te pakken. In Nederland hebben medische professionals zelf een Richtlijn AI in de zorg geschreven, inclusief een online cursus, om spelers in de zorg te helpen betrouwbare AI te herkennen.
De start van uw AI-reis is ook het juiste moment om belanghebbenden actief te betrekken. Het is belangrijk om eerst te kijken naar de ‘human flow’ in de organisatie en deze vervolgens te koppelen aan de ‘technical flow’. In plaats van op efficiëntie, moet de focus liggen op de behoeften en waarden van zorgprofessionals en patiënten. Over wat voor hen werkt. De verantwoordelijkheid voor de zorg blijft immers bij hen. Hoewel de kracht van AI ligt in het verwerken van bergen gegevens in korte tijd, kunnen medische professionals een meer holistische kijk hebben, waarbij minder kwantificeerbare factoren worden meegewogen. AI is een hulpmiddel om de menselijke besluitvorming te vergroten, niet om het te vervangen.
