Bijna de helft van de huisartsenpraktijken werkt met AI. Vorig jaar was dat ongeveer één op de vijf. Bij ruim een derde laat de huisarts een spraakmodel het consult uitschrijven.
En terwijl de praktijk versnelt, schuiven de Europese regels. Op 27 juli trad de Digital Omnibus in werking. Hierin staat dat AI in medische hulpmiddelen pas op 2 augustus 2028 aan de AI Act moet voldoen en voor de overige hoogrisicosystemen werd het 2 december 2027. Ook artikel 4, dat over AI-geletterdheid gaat, is herschreven. Organisaties moeten de ontwikkeling van AI-geletterdheid nog steeds ondersteunen. Maar ze hoeven van niemand meer te garanderen dat hij een voldoende niveau haalt.
Daar valt iets voor te zeggen. De normen waren niet af, de toezichthouders niet klaar. In de praktijk gebeurt echter iets waar men niet op gerekend had.
Het rooster wint
Hoe werkt scholing in een ziekenhuis? Elke medewerker werkt volgens een dienstrooster en is met vereende kracht de volle wachtkamer aan het leegwerken. Dan zijn er nog de verplichte ziekenhuis scholingen als BLS, BHV en die verplichte e-learnings over medicatieveiligheid, hygiëne en hoe een infuus te prikken. Dat moet allemaal af terwijl de wachtkamer alweer volloopt. En dan komt de EU met een facultatieve module over AI. Raad eens welke afvalt.
Een systeem onder druk kiest wat afgevinkt moet worden. Vrijwillige scholing verliest het dan altijd van verplichte scholing. En wel het hardst bij de mensen met de volste agenda's. Laten dat nu de mensen zijn die het meest met AI gaan werken.
Zo ontstaat er een gat. Aan de ene kant een technologie die zich in een jaar tijd van één op de vijf praktijken naar de helft verspreidde en aan de andere kant een scholingsplicht die net is teruggebracht tot een inspanningsverplichting.
Eerst zien, dan herkennen
De KNMG heeft het heel duidelijk op haar website staan. “Hoewel AI je kan ondersteunen, blijven je bestaande verantwoordelijkheden, ook tegenover je patiënt, onveranderd.”
Dat betekent niet dat elke modelfout meteen een tuchtzaak oplevert. De leverancier, de zorgorganisatie en de professional hebben ieder hun eigen deel. Maar voor de BIG-geregistreerde blijft dezelfde vraag overeind als altijd: heb je gehandeld zoals van een redelijk bekwame en redelijk handelende beroepsbeoefenaar verwacht mag worden?
Sinds er een model meekijkt, is dat een lastiger vraag dan hij lijkt. Want hoe draag je verantwoordelijkheid voor een systeem waarvan je niet weet hoe het faalt?
Je immuunsysteem herkent een ziekteverwekker niet uit zichzelf. Het moet hem eerst een keer gezien hebben. Daarom vaccineren we. We laten het immuunsysteem oefenen op iets ongevaarlijks, zodat het de echte ziekteverwekker herkent zodra deze binnenkomt. Hetzelfde geldt voor een AI-training; een zorgprofessional die nog nooit een overtuigend fout AI-advies onder ogen heeft gehad, mist die herkenning. Dat heeft niets met kunde te maken, maar alles met blootstelling.
Drie seconden
De AI Act legt de veiligheid bij hoogrisicosystemen uitdrukkelijk bij de mens neer. Artikel 14 eist dat degene die toezicht houdt (dat ben jij dus als zorgverlener!) de mogelijkheden en beperkingen van het systeem begrijpt, de uitkomst kan duiden en zich bewust blijft van automation bias. Daar komt bij dat artikel 26 de zorgorganisatie verplicht dat toezicht te beleggen bij mensen met de nodige competenties, opleiding en autoriteit.
Lees die twee artikelen nu naast het nieuwe artikel 4. We bouwen onze hele veiligheidsketen op het oordeel van de professional. En we hebben net de eis geschrapt dat iemand toetst of die professional dat oordeel kan vellen. De ‘human-in-the-loop’ is geen veiligheidsmaatregel; het is een geruststelling, waarbij het risico zonder scholing volledig ligt bij deze ‘human’.
Ik werk zelf op een spoedeisende hulp. Die neiging is daar niet theoretisch. Een keurig geformuleerde tekst en het bijbehorende advies overnemen van mijn tekst-naar-spraak-AI kost drie seconden, en die verleiding is het grootst op het moment dat ik de minste tijd heb om te twijfelen. En ja, die momenten zijn er vaker dan de momenten waarop ik even rustig kan lezen en de tekst kan aanpassen.
Accreditatie
Het goede nieuws: het materiaal ligt er. De Federatie Medisch Specialisten publiceerde een AI-competentieset voor aios en specialisten, met leermodules in de digitale leeromgeving. Er wordt hard gewerkt, maar wat ontbreekt, is niet de inhoud. Wat ontbreekt, is de verplichting.
AI-geletterdheid hoort in de gewone deskundigheidsbevordering, en uiteindelijk in de accreditatie voor zorgverleners. Geen landelijke eenheidscursus. De radioloog die dagelijks AI-ondersteunde diagnostiek beoordeelt, heeft iets anders nodig dan de verpleegkundige die een taalmodel patiëntinformatie laat herschrijven. Die differentiatie kan prima binnen bestaande nascholingsstructuren.
Waar het om gaat, is de afspraak: wie AI professioneel gebruikt, onderhoudt daar kennis voor, verplicht.
Wat nu?
We hebben twee jaar gekregen. Twee jaar waarin AI zich verder door de spreekkamer, de SEH en het verpleegkundig dossier verspreidt. Je kunt die twee jaar besteden aan het voor je uitschuiven van die vrijwillige cursus of e-learning, of je gaat jezelf scholen. Maar weet: je wordt niet beoordeeld op de vraag of jouw ziekenhuis de AI-deadline haalde. Jij wordt beoordeeld op de kwaliteit van de zorg die jij aan je patiënt gaf en of je het tuchtrecht echt kan laten zien dat je begreep wat die AI je adviseerde.
