In dit artikel8 onderdelen
  1. Waarom zorg zo hoog op de risico-lijst staat
  2. Wat Artikel 26 van je vraagt
  3. De FRIA: grondrechten-impactbeoordeling
  4. FRIA en DPIA: twee documenten, één logica
  5. Praktisch stappenplan voor Limburgse zorginstellingen
  6. Deadlines die er toe doen
  7. Samenwerking in de regio
  8. Bronnen

Zorginstellingen die AI inzetten voor het prioriteren van patiënten, ondersteunen van diagnoses of plannen van zorgcapaciteit: jullie zijn deployers onder de EU AI-verordening. Nu al geldt de AI-geletterdheidsplicht (art. 4). De hoog-risico verplichtingen volgen vanaf 2 december 2027 voor Bijlage III-toepassingen en vanaf 2 augustus 2028 voor AI in medische hulpmiddelen.

Zuid-Limburg heeft een dichte concentratie van zorginstellingen, van Maastricht UMC+ tot kleinere regionale thuiszorgorganisaties en huisartsenpraktijken. Elk van die organisaties die vandaag AI inzet, heeft nu de tijd om zich op die data voor te bereiden.

Waarom zorg zo hoog op de risico-lijst staat

De EU AI-verordening deelt AI-systemen in risicocategorieën in. Zorg scoort hoog. Bijlage III van de verordening noemt triage van patiënten in de spoedeisende zorg als hoog-risico toepassing. AI voor diagnose of behandeladvies is meestal een medisch hulpmiddel en valt via artikel 6(1) en Bijlage I onder hoog-risico, als het hulpmiddel een conformiteitsbeoordeling door een derde partij vereist.

Kijk, dat is geen verrassing. Een algoritme dat meebeslist over wie eerder aan de beurt komt op de spoedeisende hulp, of dat een radioloog ondersteunt bij het interpreteren van een scan, raakt direct aan de gezondheid en soms het leven van mensen. De wetgever heeft dat serieus genomen.

Voor deployers in de zorg betekent dit concreet: gebruik je zulke systemen, dan val je straks in het hoog-risico regime met bijbehorende verplichtingen. Vanaf 2 december 2027 voor Bijlage III-systemen zoals triage, vanaf 2 augustus 2028 voor AI in medische hulpmiddelen.

Wat Artikel 26 van je vraagt

Artikel 26 van de AI-verordening regelt de verplichtingen voor deployers van hoog-risico AI. Ze gelden vanaf 2 december 2027 (Bijlage III) en 2 augustus 2028 (Bijlage I). De kernpunten voor een zorginstelling:

Menselijk toezicht is geen optie, maar een verplichting. Je moet zorgen dat er altijd een gekwalificeerd persoon meekijkt en kan ingrijpen. Een AI-systeem dat een triagevoorstel doet, mag niet autonoom beslissen. De arts of verpleegkundige moet begrijpen wat het systeem doet en wanneer ze moeten overrulen.

AI-geletterdheid van medewerkers. Deze plicht geldt nu al, voor alle AI. Artikel 4 verplicht je maatregelen te nemen die de AI-geletterdheid van je medewerkers ondersteunen. Een bepaald niveau hoeft niet gewaarborgd te worden. Dat is niet één cursus eenmalig afvinken. Leg vast wat je doet: dat is je bewijs. Voor hoog-risicosystemen vraagt artikel 26(2) daarnaast dat het menselijk toezicht ligt bij mensen met de nodige bekwaamheid en opleiding.

Logging en registratie. Hoog-risico AI-systemen moeten logs bijhouden. Als deployer moet jij die logs ook bewaren en beschikbaar houden voor toezichthouders. Hoelang? Minimaal zes maanden, tenzij Europees of nationaal recht (met name privacyrecht) iets anders bepaalt (art. 26(6)).

Melden van incidenten. Gaat er iets mis? Ernstige incidenten meldt de aanbieder (artikel 73). Jij informeert als gebruiksverantwoordelijke direct de aanbieder en de markttoezichthouder (art. 26(5)). Het concept van de Uitvoeringswet AI-verordening wijst voor de zorg onder meer de IGJ aan als markttoezichthouder; die wet is nog niet in werking.

De FRIA: grondrechten-impactbeoordeling

Eén van de verplichtingen die het meest over het hoofd wordt gezien: de grondrechten-impactbeoordeling, ook wel FRIA (Fundamental Rights Impact Assessment) genoemd.

Artikel 27 van de verordening verplicht bepaalde deployers van hoog-risico AI om een FRIA uit te voeren voordat ze het systeem in gebruik nemen. Dit geldt voor publiekrechtelijke organen en private organisaties die een openbare dienst verlenen, en voor wie AI inzet voor kredietscoring of premieberekening bij levens- en zorgverzekeringen. Zorginstellingen die een openbare dienst verlenen kunnen hier dus onder vallen, maar alleen voor Bijlage III-systemen (zoals triage op de spoedeisende hulp) en vanaf 2 december 2027. Voor AI in medische hulpmiddelen (Bijlage I) geldt de FRIA niet.

Een FRIA is geen bureaucratisch formulier dat je eenmalig invult. Het is een serieuze analyse van de vraag: welke grondrechten van patiënten kunnen worden geraakt door dit AI-systeem, en hoe voorkomen we dat die worden geschonden?

Denk aan: het recht op gelijke behandeling (discrimineert het algoritme onbedoeld bepaalde patiëntgroepen?), het recht op privacy (welke data verwerkt het systeem?), en het recht op menselijke tussenkomst bij geautomatiseerde besluitvorming.

Voor Zuid-Limburgse instellingen speelt hier ook een specifiek element: de regio kent een relatief grote groep Duits- en Belgisch-talige patiënten die aan beide zijden van de grens zorg ontvangen. Als een AI-systeem getraind is op Nederlandse patiëntdata, kan het structureel minder goed presteren voor deze groep. Dat is precies het soort bias-risico dat in een FRIA thuishoort.

FRIA en DPIA: twee documenten, één logica

Veel zorginstellingen hebben al ervaring met de DPIA (gegevensbeschermingseffectbeoordeling) vanuit de AVG. Goed nieuws: de FRIA bouwt hierop voort. Sinds de AI-omnibus mag de FRIA uitdrukkelijk verwijzen naar de relevante delen van je DPIA (art. 27(4)), en het AI-bureau ontwikkelt een vragenlijst als sjabloon. De Autoriteit Persoonsgegevens heeft al eerder aangegeven dat AI-systemen die bijzondere persoonsgegevens verwerken (en medische gegevens zijn dat per definitie) vrijwel altijd een DPIA vereisen.

In de praktijk kun je FRIA en DPIA combineren in één traject. De overlap is groot: beide vragen om een beschrijving van het systeem, de verwerkde data, de risico's en de maatregelen. Het scheelt tijd en voorkomt dat twee teams langs elkaar heen werken.

Een aandachtspunt: de FRIA kijkt breder dan privacy. Ook grondrechten die niet direct met data te maken hebben, zoals het recht op gezondheid, gelijke behandeling en menselijke waardigheid, moeten worden meegenomen.

Praktisch stappenplan voor Limburgse zorginstellingen

Hieronder een concrete volgorde om grip te krijgen op je compliance-situatie.

Stap 1: Inventariseer welke AI-systemen je inzet. Dit klinkt vanzelfsprekend, maar in de praktijk weet de compliance-afdeling vaak niet wat er op de werkvloer draait. Begin met een rondvraag bij afdelingshoofden en de IT-afdeling. Let op: ook AI-functionaliteit ingebouwd in EHR-systemen (elektronische patiëntendossiers) telt mee.

Stap 2: Classificeer elk systeem. Valt het onder de hoog-risico categorie van Bijlage III? Is het mogelijk zelfs een verboden toepassing (artikel 5 verbiedt onder meer emotieherkenning op de werkvloer, behalve om medische of veiligheidsredenen)? Of is het een laag-risico systeem zoals een chatbot voor algemene vragen?

Stap 3: Vraag de gebruiksinstructies en de EU-conformiteitsverklaring op bij de leverancier. De aanbieder (provider) van een hoog-risico AI-systeem moet uitgebreide technische documentatie opstellen en jou als deployer gebruiksinstructies geven (art. 13). Ontbreken die stukken, dan is dat een signaal dat het systeem mogelijk geen conformiteitsbeoordeling heeft doorlopen.

Stap 4: Stel een verantwoordelijke aan. Geen aparte AI-officer nodig, maar wel iemand die het dossier beheert. Dat kan de functionaris gegevensbescherming (FG) zijn, die toch al vertrouwd is met privacy-impactbeoordelingen.

Stap 5: Voer een FRIA uit voor Bijlage III-systemen (bijv. triage) als je een publiekrechtelijke instelling bent of een openbare dienst verleent, vanaf 2 december 2027 en voordat je ermee live gaat. Combineer hem waar het kan met je DPIA.

Stap 6: Train medewerkers en leg dat vast. Niet één keer, maar periodiek. Artikel 4 vraagt maatregelen die de AI-geletterdheid ondersteunen; je registratie is je bewijs.

Stap 7: Richt logging en incidentmelding in. Weet jij waar de logs van je AI-systeem worden opgeslagen? Wie er toegang toe heeft? En wat de procedure is als een AI-aanbeveling aantoonbaar heeft bijgedragen aan een medisch incident? Dat moet geregeld zijn.

Deadlines die er toe doen

De AI-verordening is op 1 augustus 2024 in werking getreden. De verboden toepassingen (artikel 5) en de AI-geletterdheidsplicht (artikel 4) gelden sinds 2 februari 2025. Sinds 2 augustus 2026 is de verordening grotendeels van toepassing. Door de AI-omnibus (Verordening (EU) 2026/1744) gelden de hoog-risico regels vanaf 2 december 2027 voor Bijlage III-toepassingen zoals triage op de spoedeisende hulp, en vanaf 2 augustus 2028 voor AI in medische hulpmiddelen (Bijlage I). Die tijd is bedoeld om compliant te worden, niet om te wachten.

Vanaf die data kunnen overtredingen van de hoog-risico regels worden beboet tot 15 miljoen euro of 3% van de wereldwijde jaaromzet. Voor mkb geldt het laagste van beide bedragen.

Samenwerking in de regio

Zuid-Limburg heeft een troef die veel regio's missen: de Euregionale context. Maastricht UMC+ werkt al intensief samen met ziekenhuizen in België en Duitsland. Die samenwerking biedt een kans om compliance-kennis te delen en gezamenlijke FRIA-methodieken te ontwikkelen voor grensoverschrijdende patiëntenpopulaties.

Wie nu begint, heeft zijn FRIA en DPIA rustig op orde voordat de regels gaan gelden. Dat is een comfortabele positie.

Wil je weten waar jouw zorginstelling nu staat? Via comply.khairos.ai doe je in twee minuten een gratis compliance-check die je laat zien welke stappen het meest urgent zijn.

Bronnen

  1. EU AI-verordening

  2. Bijlage III van de verordening

  3. Artikel 26 van de AI-verordening

  4. Artikel 73

  5. Artikel 27 van de verordening

  6. Autoriteit Persoonsgegevens

  7. comply.khairos.ai

Weet je niet waar jouw bedrijf staat?

Beantwoord 15 vragen over hoe je team AI gebruikt. Je krijgt een compliance-score en de gaten die je eerst moet dichten, als PDF.

Ben ik compliant? Check in 2 minZo werkt Khairos Comply