Vertrouwen in en acceptatie van AI-toepassingen in geneeskunde

Samen met het vaak als grenzeloos aangeduide potentieel van Artificial Intelligence (AI), bestaan er vragen over het vertrouwen in en de acceptatie van AI-toepassingen in de geneeskunde. Vroegtijdig onderzoek hiernaar kan een succesvolle introductie en implementatie van AI in de praktijk ondersteunen. In dit artikel doen we verslag van dergelijk onderzoek onder potentiële gebruikers van op AI gebaseerde, decentrale productie van CAR-T cellen voor de behandeling van acute lymfatische leukemie.

AI kan worden opgevat als een computersysteem dat, door het gebruik van statische modellen, algoritmen en zelf-verbeterende systemen, voorspellingen en beslissingen maakt die zijn gebaseerd op haar toenemende verwerking van data. AI is in staat om taken te verrichten die het niveau van menselijke intelligentie vereisen of hier bovenuit stijgen.^1,2 

Ook in de geneeskunde wordt, in toenemende mate, gebruik gemaakt van AI. Ondanks de voordelen die AI met zich meebrengt (zoals toename in efficiëntie en verbeterde werkprocessen), is sprake van bedenkingen bij de toepassing ervan (denk aan bedreiging voor privacy en toegang tot zorg).^3,4

Opbouwen vertrouwen, acceptatie

Ten behoeve van een succesvolle introductie en implementatie van AI-toepassingen in de praktijk is het essentieel om onder (beoogde) gebruikers het vertrouwen erin en de acceptatie ervan op te bouwen.^5,6 Vertrouwen wordt hierbij opgevat als het geloof van een individu dat een AI-toepassing doet wat het beoogt te doen.^7,8 Acceptatie wordt hierbij opgevat als de bereidheid van een individu om een AI-toepassing te gebruiken.⁹ 

Door vroegtijdig onderzoek te doen naar het vertrouwen in en de acceptatie van AI-toepassingen onder gebruikers, ontstaat inzicht in mogelijk kritische factoren waarvoor aandacht nodig is bij de introductie en/of implementatie van AI-toepassingen in de praktijk.

AI-gedreven platform 

Bij de behandeling van acute lymfatische leukemie wordt gebruik gemaakt van CAR-T celtherapie. Kortgezegd worden hierbij de witte bloedcellen (T-cellen) van een patiënt gefilterd om deze vervolgens in een laboratorium te activeren en te voorzien van een stukje CAR-gen. Dit gen zorgt ervoor dat de T-cellen na terugplaatsing een eiwit, dat op de tumorcellen zit, kunnen herkennen en aanvallen. Het hiervoor benodigde productieproces in laboratoria is arbeidsintensief en kent logistieke complexiteit. Als gevolg hiervan duurt de productie van CAR-T cellen relatief lang en gaat die gepaard met hoge kosten.

Tegen deze achtergrond beoogt het, door de Europese Unie (EU) gesubsidieerde, project AIDPATH (AI-driven Decentralized Production for Advanced Therapies in the Hospital) een geautomatiseerd productiesysteem te ontwikkelen, waarbij AI een belangrijke bouwsteen is.¹⁰ Ter ondersteuning van een succesvolle introductie en implementatie van het platform is onderzoek gedaan onder potentiële gebruikers naar het vertrouwen in en de acceptatie van AI-toepassingen in de geneeskunde.

Opzet onderzoek

In het onderzoek is eerst een literatuurstudie verricht, gevolgd door een vragenlijstonderzoek. Met de literatuurstudie werden factoren geïdentificeerd die een rol spelen bij het vertrouwen in en de acceptatie van AI-toepassingen in de geneeskunde. Diverse wetenschappelijke en niet-wetenschappelijke bronnen werden doorzocht op relevante literatuur. De geïdentificeerde factoren werden onderverdeeld in vier categorieën: mensgerelateerde factoren, technologiegerelateerde factoren, juridisch en ethisch gerelateerde factoren, en overige factoren.¹¹ 

Op basis van de geïdentificeerde en gecategoriseerde factoren werd een selectie gemaakt van factoren om in een vragenlijst te worden opgenomen. In deze vragenlijst werden vragen toegevoegd om achtergrondkenmerken te meten bij respondenten. Een identieke set van factoren werd gebruikt om het vertrouwen in en de acceptatie van AI-toepassingen in de geneeskunde te meten bij potentiële gebruikers van het AIDPATH-platform. 

Een 5-punts Likert-schaal werd gebruikt om de mate van relevantie van de factoren te meten ten aanzien van zowel het vertrouwen in als de acceptatie van AI-toepassingen. De vragenlijst bevatte ook de mogelijkheid om ontbrekende factoren te vermelden.

Respondenten werden verkregen door middel van een gelegenheidssteekproef, waarbij via de leden van het AIDPATH-consortium belanghebbenden werden benaderd om de vragenlijst in te vullen. Uitnodigingen met beknopte informatie over AI en het AIDPATH-platform en vragenlijsten werden per e-mail verspreid in april en mei 2022.

Gevonden factoren

Van de 406 gevonden publicaties werden, na screening van de samenvatting en/of de gehele tekst, 32 publicaties geïncludeerd voor data-analyse. In deze set werden in totaal 110 factoren gevonden die gerelateerd zijn aan vertrouwen in AI en 77 factoren die gerelateerd zijn aan acceptatie van AI in de geneeskunde. Voor zowel vertrouwen in als acceptatie van AI konden alle factoren worden ondergebracht in één van de vier categorieën. Voor aanvullende informatie over de geïdentificeerde factoren wordt verwezen naar onze Engelstalige publicatie.¹²

De vragenlijst werd ingevuld door 22 respondenten. Zij waren afkomstig uit 8 verschillende landen, 59 procent was man, de helft was jonger dan 50 jaar, 82 procent was werkzaam als onderzoeker, en 55 procent heeft meer dan 20 jaar werkervaring. 

De gemiddelde mate van relevantie voor factoren gerelateerd aan het vertrouwen in en de acceptatie van AI in geneeskunde zijn weergeven in de tabel op de voorgaande pagina. Voor zowel het vertrouwen in als de acceptatie van AI-toepassingen in de geneeskunde werden zestien factoren als relatief hoog relevant beoordeeld. Drie factoren werden gemiddeld met lage relevantie beoordeeld; dit waren leeftijd van de patiënt, geslacht van de patiënt en opleidingsniveau van de patiënt. 

De gemiddelde mate van relevantie voor factoren gerelateerd aan vertrouwen in en acceptatie van AI-toepassingen in de geneeskunde komen met elkaar overeen.

Factoren niet opgenomen in de vragenlijsten wel genoemd door respondenten, betroffen: solidariteit, begrijpen van bias en domein-overstijgende kennis van AI bij software-ontwikkeling, data science binnen geneeskunde (voor vertrouwen in AI); beschikbaarheid van alternatieven, duur van ervaring, transparantie in beperkingen, reproduceerbaarheid, evaluatie van risico’s, middelen, en angst voor verkeerde beslissing bij gebruik (voor acceptatie van AI). 

Agendasetting bij implementatie AI-toepassingen

Op basis van de literatuur is het mogelijk om een set van factoren te identificeren die gerelateerd zijn aan het vertrouwen in en de acceptatie van AI-toepassingen in de geneeskunde. Door het laten scoren van de mate van relevantie van deze factoren door belanghebbenden, wordt inzichtelijk welke factoren meer of minder aandacht verdienen bij de implementatie van AI-toepassingen.

Anders gezegd, door een uitvraag onder belanghebbenden van de relevatie van factoren ontstaat zicht op aandachtspunten bij het introduceren en implementeren van een AI-toepassing. Geen of onvoldoende aandacht voor deze factoren kan de implementatie van AI-toepassingen belemmeren of vertragen. 

Informatie over en/of aandacht voor de relevant geachte factoren kan per doelgroep worden verstrekt. Zo kan kennis over AI en houding ten opzichte van AI bij zorgverleners tijdens congressen of workshops worden versterkt. Het vergroten van kennis over AI bij patiënten kan door ziekenhuizen worden gefaciliteerd waar de AI-toepassing in gebruik wordt genomen. Ziekenhuizen kunnen hiertoe begrijpelijke informatie delen voor patiënten.  

Ontwikkelaars en onderzoekers kunnen ook informatie geven over factoren, zoals het prestatievermogen en de mogelijkheid van integratie van AI in werkprocessen. Voor wetgevers en beleidsmakers is het van belang om informatie te vragen en/of delen ten aanzien van reguleringen alsook aansprakelijkheden en verantwoordelijkheden van een AI-toepassing.

Het AIDPATH-project wordt gesubsidieerd door de EU onder het Horizon 2020 programma (grant agreement number: 101016909).