Inzet van AI-agents in de zorg vraagt om duidelijke grenzen

AI-agents – de volgende stap in de AI-revolutie - kunnen zorgprofessionals werk besparen door zelfstandig taken te plannen en via gekoppelde systemen uit te voeren. Die mogelijkheden brengen ook risico’s mee: van gegevensdiefstal en afpersing tot ongeoorloofde acties binnen de eigen organisatie. Zorgorganisaties moeten daarom niet alleen kijken naar wat een agent kan, maar meer nog naar welke toegang en bevoegdheden hij krijgt.

Waar een chatbot doorgaans slechts informatie geeft waarmee een gebruiker verdergaat, kan een agent zelf vervolgstappen zetten. Bijvoorbeeld door verwijsinformatie te verzamelen, ontbrekende gegevens te signaleren en een afspraak voor te bereiden.

Welke handelingen daarbij mogelijk zijn, hangt af van de beschikbare koppelingen en rechten. Een onjuist antwoord van een chatbot kan een zorgprofessional op het verkeerde been zetten. Een agent met schrijfrechten kan zelf verkeerde gegevens vastleggen of informatie naar een verkeerde ontvanger sturen.

Meer mogelijkheden voor aanvallers

AI-agents bieden cybercriminelen nieuwe mogelijkheden. Zij kunnen agents inzetten om onderdelen van aanvallen te versnellen en automatiseren. Anthropic beschreef bijvoorbeeld een afpersingsoperatie waarbij Claude Code hielp met verkenning, het verzamelen van inloggegevens en het analyseren van buitgemaakte informatie.

Daarnaast laten diverse incidenten tijdens cybersecuritytests het afgelopen jaar zien dat agents ook zonder expliciete aanvalsopdracht buiten de bedoelde grenzen kunnen treden. Deze tests bewijzen niet dat iedere zorgagent onbeheersbaar wordt, maar benadrukken wel het belang van technische begrenzing.

Een ander risico is prompt injection: verborgen instructies in informatie die een agent verwerkt. Als het systeem zulke instructies als geldige opdrachten behandelt, kan het zijn bevoegdheden verkeerd gebruiken. Denk aan een agent die verwijsinformatie verwerkt en daardoor patiëntgegevens doorstuurt. In de zorg kunnen fouten en aanvallen bovendien de continuïteit raken, bijvoorbeeld wanneer dossiers, medicatieverstrekking of planning uitvallen.

Preventieve maatregelen

Zorgorganisaties kunnen zelf preventieve maatregelen nemen, zo laat onder meer Z-Cert weten. Denk aan een overzicht van gebruikte agents, hun eigenaren, gegevens en koppelingen. Geef elk systeem uitsluitend de rechten die het voor zijn taak nodig heeft. Scheid het lezen van informatie van het wijzigen ervan en laat risicovolle acties vooraf goedkeuren. Zorg dat medewerkers kunnen beoordelen welke gegevens en stappen aan een voorgenomen handeling ten grondslag liggen. Dwing toegangsgrenzen technisch af buiten het taalmodel: alleen de instructie om geen patiëntgegevens te lekken biedt onvoldoende bescherming.

Test verder vóór ingebruikname hoe agents omgaan met misleidende invoer en onverwachte taakroutes. Registreer welke hulpmiddelen zij gebruiken en welke gegevens zij wijzigen, zodat afwijkingen zichtbaar en onderzoekbaar worden. Leg ook vast wie een agent mag stoppen, hoe toegangsrechten worden ingetrokken en welke gekoppelde processen moeten worden stilgezet. Bepaal vervolgens welke controles nodig zijn voordat het systeem opnieuw mag draaien.

Lees meer over de risico’s van AI-agents en mogelijke beheersmaatregelen in de recent verschenen ICT&health editie 5, 2026, of in ons online magazine.