ICT&health maakt op deze website gebruik van cookies en vergelijkbare technieken. Wij gebruiken cookies om ervoor te zorgen dat onze website goed functioneert, om uw voorkeuren op te slaan, om inzicht te krijgen in bezoekersgedrag, maar ook voor marketingdoeleinden. Meer informatie vindt u op onze privacy policy.
Cookie instellingen
Accepteer alle cookies
Cookie instellingen
Pas de cookie-instellingen aan naar jouw persoonlijke voorkeur en bevestig jouw keuze. Noodzakelijke cookies zijn altijd noodzakelijk om deze website te kunnen bezoeken. U kunt uw voorkeur op ieder moment wijzigen of intrekken.
Noodzakelijk
(1)
Google Analytics
Het bijhouden van geanonimiseerde bezoekersstatistieken bij het gebruik van de website.
Functioneel
(2)
Google Analytics
Het bijhouden van persoonlijke bezoekersstatistieken bij het gebruik van de website.
Google Tag Manager
Het beheren van tags en het bijhouden van gegevens over het gebruik van de website.
Marketing
(1)
Google Ads
Het tonen van gerichte advertenties op basis van het gebruik van de website.
Samen met het vaak als grenzeloos aangeduide potentieel van Artificial Intelligence (AI), bestaan er vragen over het vertrouwen in en de acceptatie van AI-toepassingen in de geneeskunde. Vroegtijdig onderzoek hiernaar kan een succesvolle introductie en implementatie van AI in de praktijk ondersteunen. In dit artikel doen we verslag van dergelijk onderzoek onder potentiële gebruikers van op AI gebaseerde, decentrale productie van CAR-T cellen voor de behandeling van acute lymfatische leukemie.
AI kan worden opgevat als een computersysteem dat, door het gebruik van statische modellen, algoritmen en zelf-verbeterende systemen, voorspellingen en beslissingen maakt die zijn gebaseerd op haar toenemende verwerking van data. AI is in staat om taken te verrichten die het niveau van menselijke intelligentie vereisen of hier bovenuit stijgen.1,2
Ook in de geneeskunde wordt, in toenemende mate, gebruik gemaakt van AI. Ondanks de voordelen die AI met zich meebrengt (zoals toename in efficiëntie en verbeterde werkprocessen), is sprake van bedenkingen bij de toepassing ervan (denk aan bedreiging voor privacy en toegang tot zorg).3,4
Opbouwen vertrouwen, acceptatie
Ten behoeve van een succesvolle introductie en implementatie van AI-toepassingen in de praktijk is het essentieel om onder (beoogde) gebruikers het vertrouwen erin en de acceptatie ervan op te bouwen.5,6 Vertrouwen wordt hierbij opgevat als het geloof van een individu dat een AI-toepassing doet wat het beoogt te doen.7,8 Acceptatie wordt hierbij opgevat als de bereidheid van een individu om een AI-toepassing te gebruiken.9
Door vroegtijdig onderzoek te doen naar het vertrouwen in en de acceptatie van AI-toepassingen onder gebruikers, ontstaat inzicht in mogelijk kritische factoren waarvoor aandacht nodig is bij de introductie en/of implementatie van AI-toepassingen in de praktijk.
AI-gedreven platform
Bij de behandeling van acute lymfatische leukemie wordt gebruik gemaakt van CAR-T celtherapie. Kortgezegd worden hierbij de witte bloedcellen (T-cellen) van een patiënt gefilterd om deze vervolgens in een laboratorium te activeren en te voorzien van een stukje CAR-gen. Dit gen zorgt ervoor dat de T-cellen na terugplaatsing een eiwit, dat op de tumorcellen zit, kunnen herkennen en aanvallen. Het hiervoor benodigde productieproces in laboratoria is arbeidsintensief en kent logistieke complexiteit. Als gevolg hiervan duurt de productie van CAR-T cellen relatief lang en gaat die gepaard met hoge kosten.
Tegen deze achtergrond beoogt het, door de Europese Unie (EU) gesubsidieerde, project AIDPATH (AI-driven Decentralized Production for Advanced Therapies in the Hospital) een geautomatiseerd productiesysteem te ontwikkelen, waarbij AI een belangrijke bouwsteen is.10 Ter ondersteuning van een succesvolle introductie en implementatie van het platform is onderzoek gedaan onder potentiële gebruikers naar het vertrouwen in en de acceptatie van AI-toepassingen in de geneeskunde.
Opzet onderzoek
In het onderzoek is eerst een literatuurstudie verricht, gevolgd door een vragenlijstonderzoek. Met de literatuurstudie werden factoren geïdentificeerd die een rol spelen bij het vertrouwen in en de acceptatie van AI-toepassingen in de geneeskunde. Diverse wetenschappelijke en niet-wetenschappelijke bronnen werden doorzocht op relevante literatuur. De geïdentificeerde factoren werden onderverdeeld in vier categorieën: mensgerelateerde factoren, technologiegerelateerde factoren, juridisch en ethisch gerelateerde factoren, en overige factoren.11
Op basis van de geïdentificeerde en gecategoriseerde factoren werd een selectie gemaakt van factoren om in een vragenlijst te worden opgenomen. In deze vragenlijst werden vragen toegevoegd om achtergrondkenmerken te meten bij respondenten. Een identieke set van factoren werd gebruikt om het vertrouwen in en de acceptatie van AI-toepassingen in de geneeskunde te meten bij potentiële gebruikers van het AIDPATH-platform.
Een 5-punts Likert-schaal werd gebruikt om de mate van relevantie van de factoren te meten ten aanzien van zowel het vertrouwen in als de acceptatie van AI-toepassingen. De vragenlijst bevatte ook de mogelijkheid om ontbrekende factoren te vermelden.
Respondenten werden verkregen door middel van een gelegenheidssteekproef, waarbij via de leden van het AIDPATH-consortium belanghebbenden werden benaderd om de vragenlijst in te vullen. Uitnodigingen met beknopte informatie over AI en het AIDPATH-platform en vragenlijsten werden per e-mail verspreid in april en mei 2022.
Gevonden factoren
Van de 406 gevonden publicaties werden, na screening van de samenvatting en/of de gehele tekst, 32 publicaties geïncludeerd voor data-analyse. In deze set werden in totaal 110 factoren gevonden die gerelateerd zijn aan vertrouwen in AI en 77 factoren die gerelateerd zijn aan acceptatie van AI in de geneeskunde. Voor zowel vertrouwen in als acceptatie van AI konden alle factoren worden ondergebracht in één van de vier categorieën. Voor aanvullende informatie over de geïdentificeerde factoren wordt verwezen naar onze Engelstalige publicatie.12
De vragenlijst werd ingevuld door 22 respondenten. Zij waren afkomstig uit 8 verschillende landen, 59 procent was man, de helft was jonger dan 50 jaar, 82 procent was werkzaam als onderzoeker, en 55 procent heeft meer dan 20 jaar werkervaring.
De gemiddelde mate van relevantie voor factoren gerelateerd aan het vertrouwen in en de acceptatie van AI in geneeskunde zijn weergeven in de tabel op de voorgaande pagina. Voor zowel het vertrouwen in als de acceptatie van AI-toepassingen in de geneeskunde werden zestien factoren als relatief hoog relevant beoordeeld. Drie factoren werden gemiddeld met lage relevantie beoordeeld; dit waren leeftijd van de patiënt, geslacht van de patiënt en opleidingsniveau van de patiënt.
De gemiddelde mate van relevantie voor factoren gerelateerd aan vertrouwen in en acceptatie van AI-toepassingen in de geneeskunde komen met elkaar overeen.
Factoren niet opgenomen in de vragenlijsten wel genoemd door respondenten, betroffen: solidariteit, begrijpen van bias en domein-overstijgende kennis van AI bij software-ontwikkeling, data science binnen geneeskunde (voor vertrouwen in AI); beschikbaarheid van alternatieven, duur van ervaring, transparantie in beperkingen, reproduceerbaarheid, evaluatie van risico’s, middelen, en angst voor verkeerde beslissing bij gebruik (voor acceptatie van AI).
Agendasetting bij implementatie AI-toepassingen
Op basis van de literatuur is het mogelijk om een set van factoren te identificeren die gerelateerd zijn aan het vertrouwen in en de acceptatie van AI-toepassingen in de geneeskunde. Door het laten scoren van de mate van relevantie van deze factoren door belanghebbenden, wordt inzichtelijk welke factoren meer of minder aandacht verdienen bij de implementatie van AI-toepassingen.
Anders gezegd, door een uitvraag onder belanghebbenden van de relevatie van factoren ontstaat zicht op aandachtspunten bij het introduceren en implementeren van een AI-toepassing. Geen of onvoldoende aandacht voor deze factoren kan de implementatie van AI-toepassingen belemmeren of vertragen.
Informatie over en/of aandacht voor de relevant geachte factoren kan per doelgroep worden verstrekt. Zo kan kennis over AI en houding ten opzichte van AI bij zorgverleners tijdens congressen of workshops worden versterkt. Het vergroten van kennis over AI bij patiënten kan door ziekenhuizen worden gefaciliteerd waar de AI-toepassing in gebruik wordt genomen. Ziekenhuizen kunnen hiertoe begrijpelijke informatie delen voor patiënten.
Ontwikkelaars en onderzoekers kunnen ook informatie geven over factoren, zoals het prestatievermogen en de mogelijkheid van integratie van AI in werkprocessen. Voor wetgevers en beleidsmakers is het van belang om informatie te vragen en/of delen ten aanzien van reguleringen alsook aansprakelijkheden en verantwoordelijkheden van een AI-toepassing.
Het AIDPATH-project wordt gesubsidieerd door de EU onder het Horizon 2020 programma (grant agreement number: 101016909).
Referenties
Artificial intelligence in medicine regulation. European Medicines Agency. (link)
Lekadir K, Quaglio G, Tselioudis Garmendia A, Gallin C. Artificial intelligence in healthcare: applications, risks, and ethical and societal impacts. European Parliament. (link)
Callahan G. What are the advantages of artificial intelligence? (link)
Murphy K, Di Ruggiero E, Upshur R, Willison DJ, Malhotra N, Cai JC, et al. Artificial intelligence for good health: a scoping review of the ethics literature. BMC Med Ethics. Feb 15, 2021;22(1):14.
Fujimori R, Liu K, Soeno S, Naraba H, Ogura K, Hara K, et al. Acceptance, barriers, and facilitators to implementing artificial intelligence-based decision support systems in emergency departments: quantitative and qualitative evaluation. JMIR Form Res. Jun 13, 2022;6(6):e36501.
Schwartz JM, George M, Rossetti SC, Dykes PC, Minshall SR, Lucas E, et al. Factors influencing clinician trust in predictive clinical decision support systems for in-hospital deterioration: qualitative descriptive study. JMIR Hum Factors. May 12, 2022;9(2):e33960.
Ehsan Toreini MA, Coopamootoo K, Elliott K, Gonzalez Zelaya C, van Moorsel A. The relationship between trust in AI and trustworthy machine learning technologies. Presented at: ACM FAT* 2020: 2020 Conference on Fairness, Accountability, and Transparency; January 27-30, 2020, 2020;272-283; Barcelona.
Ferrario A, Loi M, Viganò E. In AI we trust incrementally: a multi-layer model of trust to analyze human-artificial intelligence interactions. Philos Technol. Oct 23, 2019;33(3):523-539.
Gursoy D, Chi O, Lu L, Nunkoo R. Consumers acceptance of artificially intelligent (AI) device use in service delivery. Int J Inf Manag. Dec 2019;49:157-169.
Gillespie N, Lockey S, Curtis C. Trust in artificial intelligence: a five country study. KPMG. 2021.
Shevtsova D, Ahmed A, Boot IWA, Sanges C, Hudeck M. Jacobs JL, et al. Trust in and acceptance of Artificial Intelligence in Medicine: Mixed Methods Study. JMIR Hum Factors 2024;11:e47031
