AI is al lang geen hype meer. Zoals bij alle exponentieel groeiende nieuwe technologische ontwikkelingen is regulering uiteindelijk onontkoombaar. Begin dit jaar trad de EU AI Act in werking, een van de eerste EU-brede verzameling van richtlijnen voor het gebruik van AI in de zorg. In Denemarken lopen ze voorop met auteursrecht op stem en gezicht in een poging misbruik, zoals met deepfake video’s, een halt toe te roepen. In Nederland is de Tweede Kamer van plan hetzelfde te doen. Zo’n wet zou natuurlijk de nodige gevolgen hebben voor de ontwikkeling en het gebruik van AI-tools. En wat zou dit betekenen voor de zorg? Wij maakten een inventarisatie van de mogelijk implicaties en spraken hierover onder andere met Jessica Workum, Intensivist en AI specialist bij het ETZ en lid van de ICT&health Redactieraad.
Een van de minder leuke gevolgen van de AI-hype zijn de steeds beter wordende, en nauwelijks nog van echt te onderscheiden, deepfake video’s. Premier Rutte die een onheilspellende toespraak geeft en mensen de stuipen op het lijf jaagt. Of een muziekgroep die ineens razend populair worden maar volledig door AI gecreëerd blijkt te zijn. En we kennen allemaal wel de reclames waarin bekende Nederlanders met name financiële diensten aanprijzen.
Wetgeving om deepfakes en misbruik AI uit te bannen
Het zijn maar een paar voorbeelden die de afgelopen dagen in het nieuws waren. Dat de politiek, wanneer de technologiebedrijven het niet doen, hier op moet acteren, is wel duidelijk. In Denemarken denken ze dus een oplossing gevonden te hebben door iedere persoon het auteursrecht op stem en gezicht te geven zodat misbruik strafbaar wordt.
In Nederland wil de Tweede Kamer dat mogelijk ook gaan doen. Enkele dagen geleden, op 11 juli stemde de Tweede Kamer in met een motie die oproept tot het wettelijk beschermen van iemands gezicht, stem en fysiek uiterlijk via het auteursrecht, met hetzelfde doel als de Deense overheid dat voor ogen heeft. De motie werd gesteund door de fracties van VVD, NSC, GroenLinks–PvdA en D66. Als zo’n wet er uiteindelijk komt, dan gaat dit ongetwijfeld ook gevolgen hebben voor de ontwikkeling en de toepassing van AI-tools in de gezondheidszorg.
Wat betekent dit voor de zorg?
Gezichts- en stemherkenning worden al toegepast in de zorg. Denk aan login via gezichtsherkenning in patiëntportalen, spraakgestuurde assistenten bij zelfzorg en monitoring op afstand via videotechnologie. Volgens de Autoriteit Persoonsgegevens vallen deze onder biometrie en dus onder de AVG als 'bijzondere persoonsgegevens'. Toepassing is alleen toegestaan bij uitdrukkelijke toestemming én een zwaarwegend belang.
Een uitbreiding van het auteursrecht zoals de motie voorstelt dwingt zorginstellingen tot betere data‑governance, vooral bij video, spraak en AI. Voor zorgorganisaties is het cruciaal om toestemmingsprocessen te herzien, contracten met leveranciers aan te passen en technologieën te toetsen op compliance met deze nieuwe rechten.
"Als de audio niet opgeslagen wordt maar direct omgezet wordt tot een transcriptie, hoeft dit denk ik geen probleem te vormen voor AI-toepassingen zoals ambient listening, omdat de transcriptie en niet de audio verder verwerkt wordt. Deze ontwikkeling dwingt leveranciers en zorginstellingen beter na te denken over waar en hoe biometrische data zoals een stem voor gebruikt mag worden. Ik denk daarom dat het in principe een heel goede ontwikkeling is voor de bescherming van patiënten", aldus Jessica Workum. Een belangrijk onderscheid waar rekening mee gehouden moet worden is het feit dat de stem van een persoon weliswaar dan onder het auteursrecht valt, maar dat geldt niet voor de inhoud. Zie ook deze informatie over auteursrecht.
Nieuw juridisch instrument
Daarnaast maakt zorgtechnologie steeds vaker gebruik van realistische digitale representaties van mensen. Patiënten, en dan vooral kwetsbare groepen zoals ouderen of mensen met een beperking, moeten beschermd worden tegen ongewenste digitale replicatie. Met de uitbreiding van het auteursrecht krijgen zij hiervoor een nieuw juridisch instrument in handen.
Het voorgestelde auteursrecht voegt een vermogensrecht toe boven op de AVG. Waar de AVG vooral toeziet op bescherming van gegevens, biedt auteursrecht actieve zeggenschap: alle opname, opslag of gebruik van stem of gezicht is zonder expliciete toestemming juridisch verboden, ook intern. Bijvoorbeeld: gezichtsherkenning voor login, het trainen van AI op video van patiënten, of het gebruik van synthetische stemmen van echte personen valt hieronder.
Ook Nictiz benadrukt het belang van veilige digitale toegang tot medische gegevens en wijst op de noodzaak van betrouwbare identificatie. Zorginstellingen experimenteren steeds vaker met biometrische login-methoden in e-healthsystemen.
