Net als andere zorgsectoren wennen ook zorgorganisaties in de langdurige zorg aan de toepassing van AI. Ze kunnen hiermee kennis sneller toegankelijk maken, maar moeten zich wel bewust zijn van de risico’s die gebruik van AI met zich meebrengt. Een goede visie op AI ontwikkelen is daarom een noodzakelijke eerste stap voor ze. Vilans biedt ze daarbij ondersteuning.
AI inzetten in de langdurige zorg is geen keuze meer, het is onvermijdelijk. “Als medewerkers het niet professioneel gebruiken doen ze dat privé wel”, zegt Nienke Eckhardt, AI-coördinator bij Vilans. “En anders de cliënten en mantelzorgers wel. Dit waait niet meer over.”
Op dit moment bevinden zorgorganisaties in de langdurige zorg zich nog op allerlei niveaus in de verkenningsfase van toepassing van AI. Het bewustzijn over de risico’s verschilt nog van organisatie tot organisatie. En er is angst over de (on)betrouwbaarheid van de informatie die AI biedt.
“In ieder geval is wel al sprake van een groeiend gebruik van generatieve AI, zoals chatbots”, vertelt Eckhardt. “AI speelt al jaren een rol in robotica of slimme planningstools, maar inmiddels vormen chatbots de meest gebruikte AI-toepassing. Door de grote vlucht van AI-taalmodellen voelt het inmiddels heel natuurlijk en daarmee erg laagdrempelig om met een chatbot te interacteren.”
Bewust zijn van risico’s
Deze chatbots zijn zeer toegankelijk in het gebruik, maar het gebruik ervan is niet zonder risico’s. En dat heeft een reden, want in het contact met een chatbot kan de context verloren gaan, of het antwoord dat de chatbot geeft, kan gewoon helemaal niet kloppen.
Aan het gebruik van chatbots zijn dus risico’s verbonden – en meer dan de twee die hierboven genoemd worden. De verschillen in digitale vaardigheid van de gebruikers kunnen voor een digitale kloof zorgen. Op het gebied van privacy en dataveiligheid is nog veel onzeker. Ook is nog onduidelijk wat het gebruik ervan op de langere termijn betekent voor de kwaliteit van het contact tussen cliënt, mantelzorger en zorgverlener.
“Dat is een probleem, want de communicatie van een chatbot klinkt wel heel overtuigend”, benadrukt Eckhardt. “Die is geneigd met je overpeinzingen mee te gaan. Met als gevolg dat je als gebruiker in zo’n overtuigend verhaal wordt meegenomen en dat je je er onvoldoende van bewust bent dat ook nog andere opties bestaan. Een chatbot heeft geen geweten.”
Voldoen aan AI Act
Het is daarom zaak waar mogelijk alleen informatie van een AI-tool als een chatbot te gebruiken die expliciet betrouwbaar is. Eckhardt hierover: “Zorgorganisaties moeten voldoen aan de AI Act, die eisen stelt aan de toepassing van AI. Hierbij hoort ervoor zorgen dat hun medewerkers AI-geletterd zijn. Zodat ze bijvoorbeeld alleen vragen stellen met de toevoeging: ‘geef alleen antwoorden met bronnen weer’. Dan nog blijft het risico bestaan dat het model gaat hallucineren. Het is dus bij het gebruik van AI altijd noodzakelijk om een check te doen via andere bronnen.”
Visie ontwikkelen
Dit alles betekent dat van zorgorganisaties wordt verwacht dat ze nadenken over de vraag wat toepassing van AI betekent voor hun organisatie, en daarbij een risico-inschatting maken van wat bij die toepassing mis kan gaan. En dat vraagt om een duidelijke visie op AI, waarbij de organisatie de medewerkers voorziet van concrete gebruikskaders.
“We zien dat ze daar nog heel verschillend mee omgaan”, merkt Eckhardt op. “De ene organisatie is heel technisch en juridisch ingesteld. De andere is zoekend: wat is AI-geletterdheid en wat moeten we de medewerkers meegeven? De ene gebruikt chatbots, de andere blokkeert alles. Organisaties besteden aandacht aan de privacywetgeving AVG. Toch zien we dat mensen door gebruik te maken van generatieve taalmodellen als chatbots veel meer informatie weggeven dan met standaard Google-zoekopdrachten.”
Grip houden op de betrouwbaarheid en het verantwoord gebruik van AI is dus niet eenvoudig voor zorgorganisaties. Vilans heeft zich volgens Eckhardt over dit vraagstuk gebogen. “Het is voor ons begonnen met twee vragen: welke kernfuncties van de langdurige zorg raakt het; op welke processen in de hele keten van bedrijfsvoering en zorgverlening heeft het impact? De langdurige zorg heeft ook een bedrijfsvoeringkant. Iedereen in ondersteunende functies gebruikt AI. Dus is het zaak te bepalen waar dit wel en niet kan. We vinden het belangrijk dat iedereen weet hoe het verantwoord en veilig kan worden ingezet, om risico’s te voorkomen. Dan is het voor zorgorganisaties zaak dat ze hierover hebben nagedacht, voordat ze het in de organisatie inzetten.”
Ondersteuning door Vilans
Alleen door vooraf kritisch na te denken over de kansen en bedreigingen van de inzet van chatbots, kan een zorgorganisatie hier bewust mee omgaan, meent Eckhardt. Vilans ondersteunt de zorgorganisaties in de langdurige zorg hierin.
“We kijken in het veld wat op dit gebied bij zorgorganisaties gebeurt en waar zij en hun medewerkers tegenaan lopen. Dit vertalen we naar praktische informatie en tips die we via onze websites verspreiden. Denk aan mantelzorg-persona’s die zorgorganisaties inzicht geven hoe mantelzorgers met AI omgaan. Of over hoe ze de AI-geletterdheid van medewerkers kunnen vergroten.”
InterventieZoekhulp
Recent heeft Vilans in dit kader de InterventieZoekhulp gelanceerd, om zorgprofessionals te helpen bij het vinden van passende interventies. Met deze tool kunnen zorgmedewerkers deze interventies eenvoudig vinden en vergelijken. De tool maakt gebruik van meer dan twintig betrouwbare bronnen uit de langdurige zorg.
Eckhardt vertelt: “We willen voorkomen dat zorgmedewerkers een antwoord krijgen dat niet volledig objectief of representatief is. Daarom stelt de zoekhulp vervolgvragen om de zoekvraag zo scherp mogelijk te krijgen. Zo kan de tool met behulp van AI gerichter zoeken naar een antwoord binnen deze ruim twintig bronnen, en geeft de zoekhulp de drie meest passende interventies. Deze zoekhulp sluist je meteen door naar de bijbehorende bronnen. De gebruikers weten dan zeker dat ze naar een betrouwbare bron van interventies gaan. Ook zien ze mogelijk interventies waar ze zelf niet per se al over hebben nagedacht. Op deze manier vereist het gebruik van de zoekhulp dus geen grote AI-geletterdheid van ze.”
AI-coördinator
Vilans draagt ook bij aan andere sectorinitiatieven die ervoor zorgen dat zorgmedewerkers betrouwbare informatie kunnen opzoeken. Een voorbeeld is de AI-coördinator die op dit moment door ActiZ wordt ontwikkeld. Dit wordt een AI-platform dat informatie en technologie van verschillende partijen combineert, zodat alle zorgorganisaties hiervan gebruik kunnen maken. Dit moet een digitale assistent opleveren waarvan elke zorgverlener gebruik kan maken.
Eckhardt hierover: “Wij zitten in de technische klankbordgroep van dit initiatief, samen met grotere zorgorganisaties in de langdurige zorg die binnen de sector al wat verder zijn in de toepassing van AI-technologie. Hun kennis en technologie willen we verbinden en beschikbaar stellen, zodat ook kleinere organisaties er gebruik van kunnen maken.”
Om dit doel te bereiken, deelt Vilans in dit initiatief de Vilans Protcollen, de Kennisbank digitale zorg en veel meer informatie van onze kennispleinen. “Ook de InterventieZoekhulp willen we op termijn als module aanbieden binnen deze AI-coördinator. De eerste stap is duidelijk krijgen of het technisch realiseerbaar is wat de AI-coördinator beoogt. Als we dit duidelijk hebben, zullen we kijken naar wat nodig is voor de implementatie en hoe we er nog meer uit kunnen halen.”
Duurzaam, flexibel ecosysteem
De bedoeling is op deze manier een duurzaam en flexibel ecosysteem te ontwikkelen waarin AI zorgbreed schaalbaar wordt voor de langdurige zorg. Uitgangspunten hiervoor zijn open technische standaarden, afspraken over een veilige infrastructuur en een open marktplaats voor gedeelde AI-toepassingen. Daarmee kunnen zorgorganisaties voor iedere medewerker een digitale managementassistent realiseren. Het doel is in de loop van dit jaar een eerste versie van de modulaire AI-coördinator beschikbaar te hebben.
“AI zal ook binnen de zorg een steeds grotere rol gaan spelen”, zegt Eckhardt afsluitend. “Chatbots is hiervan slechts één onderdeel. Zorgtechnologie maakt al langer en steeds meer gebruik van AI. Juist daarom is het ontwikkelen van een duidelijke visie over verantwoorde inzet essentieel. Zo wordt AI geen risico, maar een waardevolle ondersteuning van goede zorg.”
