Zorgorganisaties krijgen langer de tijd om te voldoen aan de Europese regels voor kunstmatige intelligentie (AI). De Europese Unie heeft een akkoord bereikt over de zogenoemde Digital Omnibus on AI. Daarmee worden onder meer onderdelen van de Europese AI-verordening aangepast. Vooral voor organisaties die AI-systemen met een hoog risico gebruiken, verschuift de deadline. De AI-verordening moet ervoor zorgen dat AI-systemen veilig en verantwoord worden ontwikkeld en gebruikt.
Daarbij staan onder meer de gezondheid, veiligheid en fundamentele rechten van mensen centraal. De regels gelden voor AI-toepassingen in verschillende sectoren, waaronder de zorg.
Voor zorgorganisaties zijn vooral de regels voor AI-systemen met een hoog risico van belang. Daaronder kunnen toepassingen vallen die bijvoorbeeld worden ingezet bij het stellen van een diagnose of het opstellen van een behandelplan. Of een AI-systeem daadwerkelijk als hoog risico wordt aangemerkt, hangt onder meer samen met de risicoklasse die het systeem heeft op grond van de Europese verordening voor medische hulpmiddelen (MDR).
Termijnen verschoven
De belangrijkste wijziging voor de zorg is de verschuiving van de termijn voor AI-systemen met een hoog risico, waarover we ook in mei van dit jaar schreven. De eisen en verplichtingen voor deze systemen, waaronder bepaalde medische hulpmiddelen, gaan gelden vanaf 2 augustus 2028. Dat was eerder 2 augustus 2027. Ook voor AI-systemen die onder bijlage III van de AI-verordening vallen, verandert de planning. Voor onder meer bepaalde systemen voor biometrische identificatie gaan de eisen gelden vanaf 2 december 2027, in plaats van 2 augustus 2026.
Het Omnibus-pakket bevat daarnaast maatregelen die de administratieve lasten voor organisaties moeten beperken. Tegelijkertijd worden de regels aangescherpt voor AI-systemen die niet-consensuele seksuele deepfakes of ander AI-gegenereerd misbruikmateriaal creëren. Niet alle verplichtingen worden uitgesteld. Verschillende transparantieverplichtingen uit de AI-verordening blijven ongewijzigd van kracht. Ook moeten organisaties rekening blijven houden met de regels die al van toepassing zijn.
Voorbereiding blijft nodig
De verruimde termijnen betekenen volgens de huidige plannen niet dat zorgorganisaties zich niet meer hoeven voor te bereiden. De verplichtingen uit de AI-verordening verdwijnen niet. Een uitzondering daarop zijn de verplichtingen rond AI-geletterdheid, die komen wel te vervallen.
De extra tijd kan door zorgorganisaties worden gebruikt om beleid en processen aan te passen en de benodigde documentatie op orde te brengen. Ook is het van belang om in kaart te brengen welke AI-systemen binnen de organisatie worden gebruikt en welke regels daarop van toepassing zijn.
Nederlandse uitwerking
Naast de Europese ontwikkelingen wordt in Nederland gewerkt aan een nationale uitvoeringswet voor de AI-verordening. Verschillende ministeries werken samen aan deze wet, die de Europese regels verder moet uitwerken voor de Nederlandse situatie. Wat de uiteindelijke gevolgen daarvan voor zorgorganisaties zijn, wordt duidelijker zodra de nationale uitwerking verder is gevorderd.
Voor het zorgveld zijn niet alleen de ontwikkelingen rond de AI-verordening van belang. Ook de Europese regels voor medische hulpmiddelen en diagnostiek zijn in beweging. De Europese onderhandelingen over mogelijke wijzigingen van de Medical Device Regulation (MDR) en de In Vitro Diagnostics Regulation (IVDR) kunnen gevolgen hebben voor zorginstellingen en fabrikanten van medische hulpmiddelen waarin AI wordt toegepast.
Zorgorganisaties die met dergelijke toepassingen werken, doen er daarom volgens de website Data voor gezondheid goed aan ook deze ontwikkelingen te volgen. De verschillende Europese wetgevingstrajecten kunnen elkaar raken, waardoor de regels waaraan AI-toepassingen in de zorg moeten voldoen de komende jaren verder kunnen veranderen.
Meer in ICT&health
In twee bijdragen van ons magazine gaan Colette Cuijpers, lector Recht & Digitale Technologie aan de Juridische Hogeschool Avans & Fontys en universitair hoofddocent aan Tilburg University, Noortje Lavrijssen, senior onderzoeker bij hetzelfde lectoraat en universitair hoofddocent aan de Open Universiteit, en Mara Paun, docent-onderzoeker bij het lectoraat en postdoc aan Tilburg University, dieper in op de betekenis van de voorgestelde wijzigingen.
In hun eerste artikel in editie 2 van dit jaar bespreken zij wat de Digital Omnibus kan betekenen voor de begrippen ‘persoonsgegevens’ en ‘bijzondere categorieën van persoonsgegevens’ binnen de AVG. In hun vervolgartikel in editie 3 verschuift de aandacht naar de praktijk: wat betekenen de voorstellen voor wetenschappelijk onderzoek en voor de ontwikkeling en toepassing van AI-tools in de zorg?
Daarmee laten de auteurs zien dat de discussie over de Omnibus niet alleen een juridische exercitie is, maar ook betrekking heeft op de manier waarop data in onderzoek en de zorg van de toekomst kunnen worden gebruikt.
