Kunstmatige Intelligentie (AI) is niet meer weg te denken uit ons dagelijks leven. Vrijwel iedereen maakt tegenwoordig bewust of onbewust gebruik van AI, bijvoorbeeld bij het zoeken naar informatie, het chatten op internet of het schijven, verbeteren en vertalen van teksten. Dit zijn relatief onschuldige toepassingen, maar openen de weg naar meer professioneel gebruik van AI, ook in de zorg.
Als je je tandarts belt voor een afspraak, krijg je mogelijk nu al een natuurgetrouwe AI-assistent aan de lijn. Handig bij een tekort aan personeel en de risico’s van een verkeerd ingeplande afspraak zijn doorgaans beperkt. Anders wordt het als zorgverleners AI inzetten bij diagnoses of behandelkeuzes. Hoe weten we dan dat de uitkomsten betrouwbaar zijn? Hoe waarborgen we dat de juiste protocollen zijn gevolgd? En hoe leggen zorgverleners hier verantwoording over af? Kortom, hoe houden we de regie over de inzet van AI?
Meer dan alleen een LLM
Om te begrijpen hoe we grip houden op AI, is het nuttig om eerst naar de belangrijkste bouwstenen te kijken, zonder al te diep in de techniek te duiken. Moderne AI bestaat uit meer dan alleen een taalmodel (LLM) dat antwoorden genereert. Aanvullende technologieën zoals RAG geven AI toegang tot actuele organisatiekennis, AI Agents zijn in staat zelfstandig taken te plannen en uit te voeren, en MCP maakt het mogelijk om externe systemen en hulpmiddelen te gebruiken, zoals databases, zoekmachines of voorspellende modellen. Hierdoor kan AI niet alleen vragen beantwoorden, maar ook informatie verzamelen, analyses uitvoeren en vervolgacties in gang zetten, gericht naar de context binnen de organisatie.
Ondersteunen en ontlasten
In de zorg biedt dat veel kansen om processen te ondersteunen en professionals te ontlasten. Tegelijkertijd roept de toenemende autonomie van AI een belangrijke vraag op: hoe zorgen we ervoor dat AI binnen de afgesproken kaders blijft opereren en houden we de regie over de uitkomsten die daaruit voortkomen?
Ten eerste bepaal je nog altijd zelf welke taalmodel (LLM) wordt gebruikt. Dat kan een Cloud LLM zijn, zoals ChatGPT of Claude, maar ook een eigen LLM die binnen je eigen IT-omgeving draait. De data blijven binnen de eigen organisatie, waardoor je meer controle houdt over privacy, beveiliging en kosten. Tegelijkertijd wil je de flexibiliteit behouden om, afhankelijk van de toepassing, te kiezen voor een cloudmodel of een lokaal model.
Ten tweede kun je nog altijd zelf de context meegeven aan de agent (via RAG) en zelf bepalen welke tools (via MCP) de agent mag gebruiken. Goed datamanagement en hoge datakwaliteit blijven daarom belangrijk.
Ten derde stel je duidelijke kaders vast. Naast goed prompt management zijn beslissingsprotocollen, ook wel agentic workflows, essentieel. Hiermee leg je vast welke stappen een agent moet doorlopen en aan welke beleidsregels, richtlijnen of protocollen moet worden voldaan. De uitkomsten worden daarbij gecontroleerd en gevalideerd, zodat beslissingen voorspelbaar, uitlegbaar en reproduceerbaar blijven.
AI-governance
Grip op de technologie is echter slechts één kant van het verhaal. Zorgorganisaties moeten zich ook kunnen verantwoorden over het gebruik van AI. Dat wordt steeds belangrijker nu de Europese AI-wetgeving hogere eisen stelt aan transparantie en toezicht.
Daarom is een goede AI-governance essentieel. Door centraal vast te leggen welke AI-toepassingen in gebruik zijn, welke modellen, agents en databronnen daarbij worden ingezet en welke regelgeving van toepassing is, ontstaat overzicht en controle. Een governance-oplossing zoals SAS AI Navigator helpt organisaties om risico's te beheren, compliance te borgen en verantwoording af te leggen aan zowel interne stakeholders als toezichthouders.
De combinatie van de juiste AI-technologie en sterke governance stelt zorgorganisaties in staat om zelf de regie te houden over veilige, betrouwbare en verantwoorde inzet van AI.
Voeg ICT&health toe aan Google
Show more content from ICT&health in Google Search.
