AI-tools kunnen steeds sneller code genereren en routinetaken van programmeurs automatiseren. Toch kunnen zorgorganisaties de ontwikkeling van software nog niet volledig aan AI overlaten. Volgens Louise Kallen, Directeur Zorg bij PAQT, staan vier belangrijke valkuilen dat in de weg: onvoldoende begrip van de zorgcontext, onduidelijkheid over verantwoordelijkheid, gebrekkige gebruiksvriendelijkheid en het ontbreken van zicht op het grotere geheel.
De eerste valkuil is dat AI wel code kan schrijven, maar niet vanzelf begrijpt welk probleem daarmee moet worden opgelost. De werkelijke behoefte is bovendien niet altijd direct duidelijk, aldus Kallen in ICT&health 2, 2026. Het doorgronden daarvan vraagt om gesprekken met stakeholders, inzicht in zorgprocessen en aandacht voor verbale én non-verbale signalen. Ook moet worden bepaald welke taken een systeem mag ondersteunen en welke beslissingen bij zorgprofessionals moeten blijven.
Verantwoordelijkheid voor fouten
Een tweede risico betreft de verantwoordelijkheid voor fouten. Wanneer AI-gegenereerde software bijdraagt aan een verkeerde beslissing, is nog niet altijd helder wie daarvoor verantwoordelijk of aansprakelijk is. In de zorg kunnen de gevolgen ernstig zijn. Kennis van onder meer ISO- en NEN-normen en de Europese AI-verordening blijft daarom noodzakelijk. Bij medische besluitvorming is vooralsnog een ‘human in the loop’ nodig.
De derde valkuil is volgens Kallen gebruiksvriendelijkheid. Goede zorgsoftware bestaat niet alleen uit functionerende code. Ontwikkelaars moeten begrijpen wat eindgebruikers nodig hebben en die kennis vertalen naar een prettige gebruikerservaring. Gebeurt dat onvoldoende, dan kan software weerstand oproepen en blijft adoptie uit. De tijdwinst door AI kan zo juist omslaan in extra werk.
AI mist grote plaatje
Ten vierde mist AI het grotere plaatje. Zorgtoepassingen moeten vaak integreren met EPD’s, ECD’s en systemen van overheden of verzekeraars. Zulke koppelingen stellen technische, organisatorische en wettelijke eisen die al tijdens de ontwikkeling moeten worden meegenomen.
Dat betekent volgens Kallen niet dat AI buiten beeld moet blijven. “Voor het ontwikkelen van bepaalde delen van code is AI nu zeker waardevol. Softwareontwikkeling kan daardoor bovendien een stuk sneller plaatsvinden”, benadrukt Kallen. “Bovendien zijn er ook al een hoop AI-oplossingen die in de zorg steeds breder worden ingezet, zoals speech-to-text, het genereren van documenten en het maken van samenvattingen.”
Mens onmisbaar
Kortom: AI kan de ontwikkelaar dus ondersteunen en versnellen. Voor veilige, bruikbare en goed geïntegreerde zorgsoftware blijven menselijke expertise en kennis van de zorgcontext echter onmisbaar.
Dit artikel gemist? Lees het in ICT&health 2, 2026 en in ons online magazine.
Voeg ICT&health toe aan Google
Toon meer content van ICT&health in Google Zoeken.
