Juridische aspecten van de inzet van sociale robots in de zorg
Om onderstaande en alle andere premium artikelen te lezen, moet u inloggen of een account aanmaken.
U kunt nog {free_articles_left} premium artikel gratis lezen. Om meer premium artikelen te lezen, moet u inloggen of een account aanmaken.
In de zorg wordt steeds meer gebruik gemaakt van robots. Een mooi voorbeeld hiervan is door Bas Kamer en Ellen Jansen geschetst in hun bijdragen ‘Implementatie van robot Maatje bij het Regionaal Autisme Centrum’ en ‘Impact van de sociale robot Maatje’ in de vorige twee edities van dit tijdschrift ten aanzien van de opschaling en implementatie van robot Maatje in het zorgproces. Rondom het Maatje-project zijn ook de juridische aspecten in kaart gebracht. In deze bijdrage wordt stilgestaan bij enkele van deze juridische aspecten aan de hand van de Algemene Verordening Gegevensbescherming (AVG), de Medical Device Regulation (MDR) en de AI-verordening.
De AVG geeft regels rondom de verwerking van persoonsgegevens, om zo het recht op privacy van cliënten zo goed mogelijk te borgen. Daarbij maakt de AVG onderscheid tussen ‘gewone’ en ‘bijzondere’ persoonsgegevens. Denk bij gewone persoonsgegevens aan voor- en achternaam, geboortedatum, geslacht, adres, telefoonnummer en e-mailadres. Bijzondere persoonsgegevens zijn gegevens die extra gevoelig zijn, zoals gegevens waaruit ras of etnische afkomst blijkt, iemands religieuze of levensbeschouwelijke overtuigingen duidelijk worden en gegevens over iemands gezondheid.1 Wordt de cliënt door een robot herinnerd aan de inname van specifieke medicatie – aan de hand waarvan duidelijk is wat voor ziekte of beperking de cliënt heeft – dan is er sprake van de verwerking van bijzondere persoonsgegevens.
Wordt een robot ingezet in het kader van de geneeskundige behandeling van een cliënt, dan ligt een geneeskundige behandelingsovereenkomst ten grondslag aan de verhouding tussen de zorgorganisatie en de cliënt.2 De verwerking van gewone persoonsgegevens kan dan worden gebaseerd op de grondslag dat de verwerking noodzakelijk is voor de uitvoering van een overeenkomst.3 De verwerking van bijzondere persoonsgegevens is toegestaan omdat de verwerking noodzakelijk is voor het verstrekken van gezondheidszorg.4
Gaat het om de inzet van een robot vanuit welzijnsdoeleinden, bijvoorbeeld bij de begeleiding van cliënten met autisme, dan is er geen sprake van een geneeskundige behandelingsovereenkomst. Voor de verwerking van gewone persoonsgegevens maakt dat niet uit, omdat er nog steeds een overeenkomst ten grondslag ligt aan de begeleiding van de cliënt. Voor de verwerking van bijzondere persoonsgegevens ligt dat anders: in dat geval kan niet worden teruggevallen op de uitzondering dat de verwerking van bijzondere persoonsgegevens noodzakelijk is voor het verstrekken van gezondheidszorg.
Dat betekent concreet dat bijzondere persoonsgegevens in situaties waarin geen sprake is van de geneeskundige behandeling van cliënten alleen mogen worden verwerkt wanneer de cliënt daarvoor uitdrukkelijke toestemming heeft gegeven.5 Bijvoorbeeld door het ondertekenen van een toestemmingsformulier. Deze toestemming moet goed gedocumenteerd worden, zodat daadwerkelijk aangetoond kan worden dat de cliënt uitdrukkelijke toestemming heeft verleend voor het verwerken van bijzondere persoonsgegevens.6
Daarbij is het van belang dat de cliënt voldoende wordt geïnformeerd over hetgeen waarvoor hij toestemming verleent. Dat betekent dat informatie moet worden gegeven over wat voor soort persoonsgegevens er worden verwerkt, met welk doel en op welke wijze. Deze informatie wordt veelal in de vorm van een privacyverklaring aan de cliënt ter beschikking gesteld.
De cliënt kan de gegeven toestemming te allen tijde intrekken en moet hierover ook worden geïnformeerd. Technisch en organisatorisch moet het zo geregeld zijn dat na het intrekken van de toestemming geen bijzondere persoonsgegevens meer verwerkt worden, omdat vanaf dan een rechtmatige verwerkingsgrondslag ontbreekt.
In het onderzoeksproject is gewerkt met robot Maatje. De robot wordt binnen dit project vanuit welzijnsdoeleinden ingezet bij de begeleiding van cliënten met autisme, en dus niet vanuit een medisch doeleinde in het kader van de geneeskundige behandeling van cliënten. Daarmee lijkt dan vrij eenvoudig de conclusie getrokken te kunnen worden dat de MDR, de Europese verordening die regels bevat ten aanzien van medische hulpmiddelen, hier niet van toepassing is. Dit ten onrechte. Om te kunnen
bepalen of er sprake is van een medisch doeleinde of een welzijnsdoeleinde, moet worden nagegaan waarvoor robot Maatje kan worden gebruikt. Het beoogde doeleinde wordt bepaald op basis van de gegevens die door de fabrikant zijn verstrekt op het etiket, in de gebruiksaanwijzing, reclame- of verkoopmateriaal of verklaringen, maar het beoogde doeleinde kan ook voortvloeien uit de specificaties die door de fabrikant zijn gemaakt in de klinische evaluatie.7
In de gebruiksaanwijzing van robot Maatje is te lezen dat het door middel van de agendafunctie de dagelijkse structuur en activatie ondersteunt. De gebruiksaanwijzing geeft aan dat robot Maatje inzetbaar is als zorgrobot en dat zorgrobots een goede ondersteuning vormen van zorgprofessionals; zorgrobots kunnen de werkdruk verlagen en kunnen samenwerken met zorgverleners. Dit impliceert dat robot Maatje kan worden ingezet voor de behandeling van de cliënt, of in ieder geval voor de monitoring van de cliënt. Zowel behandeling als monitoring zijn als medische doeleinden opgenomen in de MDR wanneer het gaat om hulpmiddelen die worden ingezet wanneer er sprake is van een beperking (zoals autisme) van een cliënt.8 Overigens wordt meer in algemene zin over dagstructuurrobots – zoals robot Maatje – gezegd dat de zorgverlener daardoor minder fysieke zorg hoeft te leveren, waardoor er meer tijd is voor cliënten die wel een fysieke zorgbehoefte hebben.9
Wanneer een zorgorganisatie met het gebruik van robot Maatje onder andere inzet op het verminderen van de afhankelijkheid van een zorgverlener en het op termijn realiseren van vermindering van face-to-face contacten, dan kan in combinatie met de omschrijving in de gebruiksaanwijzing van robot Maatje de conclusie worden getrokken dat er waarschijnlijk sprake is van een medisch doeleinde. Daarmee lijkt robot Maatje wel degelijk te kunnen worden gekwalificeerd als medisch hulpmiddel (die eveneens een welzijnsdoeleinde dient), waarop de regels van de MDR van toepassing zijn.
Als een zorgrobot onder de regels van de MDR valt, dan heeft dit ook consequenties voor de toepasselijke de regels van de AI-verordening. De AI-verordening geeft regels voor AI-systemen, die in beeld komen wanneer een robot gebruik maakt van AI. Daarbij geldt als uitgangspunt: hoe meer risico’s er kleven aan het AI-systeem, hoe meer voorwaarden er gelden waaraan het AI-systeem moet voldoen. Daarbij onderscheidt de verordening verschillende risicocategorieën: (1) verboden AI-systemen, (2) hoogrisico AI-systemen en (3) AI-systemen met risico op misleiding. Daarnaast bevat de AI-verordening regels voor AI-modellen voor algemene doeleinden, zoals generatieve AI.
Kan een robot worden beschouwd als een hulpmiddel met een medisch doeleinde dat moet voldoen aan de regels van de MDR, dan lijkt het AI-systeem dat wordt gebruikt om de robot te laten functioneren aangemerkt te kunnen worden als een hoogrisico AI-systeem. Dit omdat de MDR opgenomen staat in bijlage I van de AI-verordening.10 Uit het woord ‘lijkt’ blijkt enige voorzichtigheid; deze voorzichtigheid hangt samen met het feit dat er nog geen rechtspraak beschikbaar is van het Europese Hof van Justitie over de concrete interpretatie van het begrip ‘medisch hulpmiddel’, omdat de MDR relatief jonge Europese wetgeving betreft. De verwachting is dat het begrip ‘medisch hulpmiddel’ de komende jaren nader uitgekristalliseerd zal gaan worden in de rechtspraak.
Wanneer er sprake is van een situatie waarin het AI-systeem als hoogrisico AI-systeem kan worden gekwalificeerd, dan moet het AI-systeem aan een aantal vereisten voldoen.11 Deze vereisten zijn uitgewerkt in hoofdstuk III van de AI-verordening. De aanbieder van een AI-systeem is verantwoordelijk voor de naleving van de vereisten van de AI-verordening.12 Niet alle vereisten zijn heel concreet. Het is aan het Europese Hof van Justitie om hier nadere invulling aan te geven.
Voor een zorgorganisatie die gebruik wil gaan maken van een robot is het van belang om na te gaan in hoeverre de aanbieder van de robot voldoet aan de eisen van de MDR, en van de AI-verordening wanneer de robot (mede) functioneert op basis van AI. Door dat na te gaan en te besluiten om geen gebruik te maken van een robot die niet voldoet aan de vereisten uit de MDR en (eventueel) de AI-verordening, handelt een zorgorganisatie in overeenstemming met de zorgplicht die op de zorgorganisatie rust.