De EU AI Act was bedoeld om Europeanen te beschermen tegen de risico’s van kunstmatige intelligentie. Critici stellen echter dat de wet de invoering van medische AI-tools vertraagt, onzekerheid zaait in de gezondheidszorgsector en de Europese medische technologie-industrie onder druk zet. Brussel krabbelt nu terug door belangrijke bepalingen uit te stellen via het AI Omnibus-pakket, maar de wijzigingen blijven ver achter bij de herziening van de regelgeving waarop veel bedrijven hadden gehoopt.
De EU AI Act beschermt burgers ook tegen de voordelen van AI
Op 7 mei bereikten onderhandelaars van het voorzitterschap van de Raad en het Europees Parlement een voorlopig akkoord over wijzigingen in de EU AI Act als onderdeel van het bredere vereenvoudigingspakket “Omnibus VII”, ook bekend als de AI Omnibus (pdf). Het initiatief is bedoeld om delen van het EU-regelgevingskader voor AI te versoepelen door verplichtingen voor risicovolle systemen, waaronder die in de gezondheidszorg, uit te stellen, de nalevingslasten te verminderen en gerichte vereenvoudigingen in te voeren voor bedrijven die AI ontwikkelen, met name kleinere bedrijven.
“De overeenkomst over de AI-wet ondersteunt onze bedrijven aanzienlijk door terugkerende administratieve kosten te verminderen”, aldus Marilena Raouna, viceminister van Europese Zaken van de Republiek Cyprus.
Brussel heeft erkend dat, hoewel de EU AI Act met goede bedoelingen is opgesteld, sommige bepalingen de innovatie in de gezondheidszorg, waar artsen en patiënten reikhalzend naar uitkijken, in feite zouden kunnen belemmeren. Een van de eerste slachtoffers was OpenEvidence, een generatief AI-platform dat is ontworpen om klinische besluitvorming te ondersteunen. Hoewel naar verluidt 42 procent van de artsen in de Verenigde Staten het platform gebruikt, is het sinds april 2026 niet meer beschikbaar in Europa. Onder de EU AI Act wordt een dergelijk systeem geclassificeerd als risicovol, waardoor verplichtingen worden opgelegd waaraan het bedrijf naar eigen zeggen realistisch gezien niet kan voldoen.
De AI-wet reguleert AI-systemen op basis van hun risiconiveau. De strengste eisen gelden voor zogenaamde risicovolle systemen, waaronder die welke in de gezondheidszorg worden gebruikt. Deze bepalingen zouden oorspronkelijk in augustus 2026 van kracht worden. Het kader was bedoeld om sterkere waarborgen te bieden door middel van eisen op het gebied van transparantie, documentatie en risicobeheer. Maar AI-ontwikkelaars en medtech-bedrijven waarschuwden dat de regels de ontwikkeling van in Europa gecreëerde algoritmen zouden kunnen onderdrukken en potentieel waardevolle hulpmiddelen van de markt zouden kunnen halen. De EU AI Act was bedoeld om burgers te beschermen tegen de schadelijke effecten van AI, maar critici stellen dat deze hen nu ook afschermt van de voordelen ervan.
De kritiek richt zich vooral op uitgebreide documentatievereisten, vage definities van systemen met een hoog risico, overlappende sectorspecifieke regelgeving zoals de AI-wet en de verordening inzake medische hulpmiddelen, het ontbreken van technische normen en de toenemende wettelijke aansprakelijkheid die gepaard gaat met snel evoluerende AI-modellen. OpenEvidence is niet het enige voorbeeld. Andere getroffen technologieën zijn onder meer ChatGPT for Clinicians, AI-assistenten die zijn ontworpen om medische gegevens te analyseren, en voorspellende algoritmen. Ook AI-scribes die automatisch klinische documentatie genereren tijdens patiëntbezoeken, worden getroffen – hoewel dergelijke tools zouden kunnen worden aangemerkt als administratieve AI met een laag risico, geven veel zorgverleners er de voorkeur aan om regelgevingsonzekerheid te vermijden en de implementatie helemaal uit te stellen.
De AI Omnibus kan innovatoren teleurstellen
Het nieuwe Omnibus-pakket verlicht een deel van deze druk. De belangrijkste wijziging betreft systemen met een hoog risico. In plaats van augustus 2026 zullen sommige bepalingen nu in december 2027 van toepassing zijn. Voor AI-systemen die al als medische hulpmiddelen onder de Verordening inzake medische hulpmiddelen vallen, waaronder radiologietools, diagnostische software en kritieke beslissingsondersteunende systemen, is de deadline uitgesteld tot augustus 2028.
De AI Omnibus vereenvoudigt ook bepaalde verplichtingen, introduceert vrijstellingen voor kleine en middelgrote ondernemingen, vermindert onzekerheid als gevolg van overlappende regelgeving en versoepelt de eisen voor systemen die besluitvorming ondersteunen in plaats van zelfstandig beslissingen te nemen.
Officieel zegt de Europese Commissie dat deze wijzigingen nodig zijn om rechtsonzekerheid te voorkomen en omdat technische normen nog niet volledig zijn ontwikkeld. Maar de bredere realiteit is dat de AI-wet probeerde een technologie te reguleren die zo snel evolueert dat regels die vandaag worden ingevoerd, morgen al achterhaald kunnen zijn. Generatieve AI-modellen zijn hier een duidelijk voorbeeld van. Hun output is vaak moeilijk te verklaren en hun gedrag kan voortdurend evolueren door updates en aanpassingen. Er ontstaan al agentgebaseerde systemen, terwijl AI wordt geïntegreerd in elektronische medische dossiersystemen, waardoor de grens tussen toepassingen met een hoog en laag risico vervaagt.
De AI Omnibus maakt deel uit van de bredere Digital Omnibus-strategie, die tot doel heeft de digitale bureaucratie in heel Europa te verminderen. In de gezondheidszorg kan de enorme hoeveelheid regelgeving op het gebied van digitale technologieën zelfs vastberaden innovators ontmoedigen. Naast de AI-wet moeten bedrijven ook hun weg vinden in de verordening inzake medische hulpmiddelen, de Algemene Verordening Gegevensbescherming, de Datawet, NIS2 en het kader voor de Europese ruimte voor gezondheidsgegevens.
De Europese Commissie erkent in toenemende mate dat de AI-wet de ontwikkeling van generatieve AI-systemen voor de gezondheidszorg kan vertragen en start-ups en medtech-bedrijven buiten de Europese Unie kan verdrijven. Toch zullen degenen die op een grote liberalisering hopen, waarschijnlijk teleurgesteld worden. De filosofie van de AI-wet blijft grotendeels intact. De wetgeving is nog steeds gebaseerd op risicoclassificatie, stelt nog steeds transparantieverplichtingen aan AI-modellen, creëert nog steeds uitgebreide documentatievereisten en schrijft nog steeds menselijk toezicht voor, zelfs in situaties waarin AI-systemen beter presteren dan menselijke operators.
Europese artsen sceptisch tegenover deregulering
Voorstellen om de regelgeving in het kader van de Digital Omnibus te versoepelen, zijn al bekritiseerd door het Permanent Comité van Europese Artsen (CPME). In een in april gepubliceerd standpunt riep de organisatie op tot een voorzichtige benadering van AI in de geneeskunde. CPME stelt dat sommige voorgestelde wijzigingen de privacybescherming zouden kunnen verzwakken en het gemakkelijker zouden maken om gevoelige patiëntgegevens te verwerken voor AI-ontwikkeling.
De organisatie maakt zich vooral zorgen over pogingen om het gebruik van gepseudonimiseerde of geanonimiseerde patiëntgegevens voor AI-training uit te breiden. CPME waarschuwt dat het verzwakken van de AVG-bescherming het vertrouwen van patiënten en de medische vertrouwelijkheid zou kunnen ondermijnen, die centraal blijven staan in de gezondheidszorgsystemen in Europa.
Voorstanders van deregulering stellen dat Europa het risico loopt achterop te raken bij de Verenigde Staten en China als bedrijven te maken blijven krijgen met buitensporige nalevingslasten. Critici van het huidige kader zeggen dat het continent niet tegelijkertijd leiderschap op het gebied van AI kan eisen en regelgevende verplichtingen kan opleggen waaraan kleinere ontwikkelaars in de praktijk niet kunnen voldoen.
Het debat rond de AI Omnibuswet weerspiegelt een bredere spanning binnen het Europese gezondheidsbeleid. Beleidsmakers proberen een evenwicht te vinden tussen innovatie, patiëntveiligheid, privacy en concurrentievermogen. Of de EU alle vier de doelstellingen tegelijkertijd kan realiseren, blijft een open vraag.
Het voorlopige akkoord dat in mei is bereikt, moet nog formeel worden goedgekeurd door zowel de Raad als het Europees Parlement. Vervolgens zal het een juridische en taalkundige toetsing ondergaan, voordat de wetgeving in de komende weken officieel door de twee instellingen kan worden aangenomen.
