In dit artikel9 onderdelen
  1. Wie valt onder 'publieke sector' in de AI-verordening?
  2. Artikel 27: de FRIA-verplichting
  3. Hoe verschilt dit van wat private MKB moet doen?
  4. Wat betekent 'menselijk toezicht' voor een gemeente?
  5. Stappenplan voor gemeentes en overheidsinstellingen
  6. Deadlines die je niet mag missen
  7. Wie houdt toezicht?
  8. Wat nu?
  9. Bronnen

Gemeentes, uitvoeringsdiensten en andere publieke instanties staan onder de AI-verordening voor een serieuzer compliance-traject dan de meeste private bedrijven. Niet omdat de wet ze anders behandelt in de definitie van 'deployer', maar omdat ze structureel vaker hoogrisico-AI inzetten én omdat Artikel 27 voor hen een expliciete extra verplichting bevat: de verplichte grondrechten-impactbeoordeling, beter bekend als de FRIA.

Dit artikel legt uit wat die verplichting inhoudt, welke publieke instanties eronder vallen, en hoe je als gemeente of overheidsinstelling een werkbaar compliance-stappenplan opzet.

Wie valt onder 'publieke sector' in de AI-verordening?

De AI-verordening gebruikt niet de term 'publieke sector' als aparte categorie met een eigen definitie. Wat wél bestaat is het onderscheid in artikel 27 tussen deployers die publiekrechtelijke instanties zijn of een openbare dienst verlenen, en alle andere deployers.

Een publiekrechtelijke instantie is, kort gezegd, elke organisatie die onder nationaal publiekrecht valt. Denk aan:

  • Gemeentes en provincies

  • Rijksdiensten en uitvoeringsorganisaties (UWV, Belastingdienst, DUO, SVB)

  • ZBO's (zelfstandige bestuursorganen) zoals de AP zelf, de ACM, of de NZa

  • Onderwijs- en zorginstellingen die overwegend publiek gefinancierd zijn (dit grijze gebied verdient extra aandacht)

Let op: ook private organisaties die een openbare dienst verlenen, bijvoorbeeld in zorg, onderwijs, sociale diensten of huisvesting, moeten een FRIA uitvoeren. Niet alleen de juridische status van de deployer telt dus, maar ook de aard van de dienst.

Artikel 27: de FRIA-verplichting

Als publiekrechtelijke instantie die een hoogrisico-AI-systeem inzet ben je op grond van Artikel 27 verplicht vóór de ingebruikname een grondrechten-impactbeoordeling (FRIA) uit te voeren. Dat geldt vanaf 2 december 2027, voor Bijlage III-systemen. Het geldt ook voor private organisaties die een openbare dienst verlenen, en voor iedere deployer die AI inzet voor kredietscoring van particulieren of premieberekening bij levens- en zorgverzekeringen.

Wat beoordeel je in een FRIA?

  1. Welke rechten zijn in het geding? Denk aan non-discriminatie, privacy, toegang tot publieke diensten, recht op een eerlijk besluit.

  2. Wie worden geraakt? Welke groepen mensen worden door het AI-systeem beïnvloed, en is er kans op disproportionele effecten op kwetsbare groepen?

  3. Welke waarborgen zijn er? Wat doet de organisatie om grondrechtenschendingen te voorkomen of te mitigeren?

  4. Wie is verantwoordelijk? De FRIA moet worden opgesteld door de deployer, niet door de aanbieder van het systeem.

Een FRIA is geen éénmalig document. Als relevante elementen veranderen of niet meer actueel zijn, werk je de beoordeling bij (artikel 27(2)). Na afloop meld je de resultaten bij de markttoezichthouder (artikel 27(3)). Sinds de AI-omnibus mag je daarbij verwijzen naar relevante delen van je DPIA (artikel 27(4)), en het AI-bureau ontwikkelt een vragenlijst als sjabloon (artikel 27(5)).

Hoe verschilt dit van wat private MKB moet doen?

Een privaat bedrijf dat een hoogrisico-AI-systeem inzet heeft onder Artikel 26 vanaf 2 december 2027 al een flinke lijst verplichtingen: gebruik volgens de instructies, menselijk toezicht door bekwame en opgeleide mensen, logs bewaren, monitoren en betrokkenen informeren. Dat is niet niets.

Maar de FRIA is voor private deployers niet verplicht, tenzij ze een openbare dienst verlenen of AI inzetten voor kredietscoring of premieberekening bij levens- en zorgverzekeringen. Een gemeente of uitvoeringsdienst kan die verplichting niet omzeilen. De combinatie van Artikel 26 én Artikel 27 maakt het compliance-pakket voor de publieke sector zwaarder.

Daar bovenop speelt nog iets anders: publieke instanties zetten AI vaker in op plekken die direct Bijlage III raken. Denk aan:

  • Geautomatiseerde beoordeling van uitkeringsaanvragen (Bijlage III, categorie 5)

  • Risicomodellen voor schuldhulpverlening of handhaving

  • Systemen die bepalen welke burgers nader gecontroleerd worden

  • AI-ondersteunde selectie in onderwijsinstellingen

Al deze toepassingen vallen hoogstwaarschijnlijk in de hoogrisico-categorie van Bijlage III. Dat betekent dat vanaf 2 december 2027 de volledige combinatie van artikel 26 en artikel 27 van toepassing is. Overheidsorganisaties moeten bovendien hun gebruik van zulke systemen registreren in de EU-database (artikel 26(8)).

Wat betekent 'menselijk toezicht' voor een gemeente?

Artikel 26 eist dat deployers ervoor zorgen dat er betekenisvol menselijk toezicht is op de AI-output. Kijk, voor een gemeente is dat niet altijd eenvoudig. Denk aan een medewerker die dagelijks honderden beschikkingen verwerkt waarbij een AI-systeem advies geeft. Als de medewerker dat advies altijd overneemt zonder kritisch na te denken, voldoe je feitelijk niet aan de wet, ook al zit er technisch een mens in de loop.

Betekenisvol toezicht vereist dat medewerkers:

  • Begrijpen wat het systeem doet en wat de beperkingen zijn

  • De output kunnen contesteren en afwijken wanneer dat nodig is

  • Weten wanneer ze moeten escaleren

Dat vraagt om gerichte AI-geletterdheidstraining (artikel 4, en voor hoog-risicosystemen artikel 26(2)) en interne procedures die het toezicht ook documenteren.

Stappenplan voor gemeentes en overheidsinstellingen

Stap 1: Inventariseer al je AI-systemen Maak een volledige lijst van alle AI-tools en geautomatiseerde systemen die je inzet, inclusief die van leveranciers. Gebruik daarvoor de definitie in artikel 3, punt 1, van de verordening: een machinegebaseerd systeem dat met een zekere mate van autonomie werkt, zich na ingebruikname kan aanpassen, en uit de ontvangen input afleidt hoe het output genereert, zoals voorspellingen, content, aanbevelingen of beslissingen die fysieke of virtuele omgevingen kunnen beïnvloeden.

Stap 2: Classificeer op risico Toets elk systeem aan Bijlage III. Valt het erin? Dan is het hoogrisico. Controleer ook of een systeem verboden handelingen verricht zoals beschreven in artikel 5, zoals social scoring of real-time biometrische identificatie op afstand in openbare ruimtes voor rechtshandhaving (op enkele strikte uitzonderingen na).

Stap 3: Voer FRIA's uit voor hoogrisico-systemen Per hoogrisico-systeem uit Bijlage III stel je een FRIA op, vóór ingebruikname en vanaf 2 december 2027. Betrek hierbij je functionaris voor gegevensbescherming (FG), want een FRIA overlapt deels met de DPIA onder de AVG; je mag naar de DPIA verwijzen (artikel 27(4)). Check autoriteitpersoonsgegevens.nl voor de actuele AVG-guidance.

Stap 4: Stel contractuele eisen aan leveranciers Als je een AI-systeem inkoopt bij een commerciële aanbieder, moet die je gebruiksinstructies leveren (artikel 13). Leg in het contract vast dat je ook de EU-conformiteitsverklaring krijgt, en controleer dat het systeem in de EU-database is geregistreerd: overheden mogen geen ongeregistreerd hoog-risicosysteem gebruiken (artikel 26(8)). Bij aanbestedingen kun je dit als eis opnemen in de functionele specificaties.

Stap 5: Registreer je gebruik, richt menselijk toezicht in en documenteer het Registreer je gebruik van hoog-risicosystemen uit Bijlage III in de EU-database (artikel 26(8)). Definieer per systeem wie verantwoordelijk is voor het toezicht, wat de interventiebevoegdheid is, en hoe afwijkingen worden vastgelegd. Leg dit vast in werkprocedures of werkinstructies.

Stap 6: Train je medewerkers Artikel 4 verplicht je maatregelen te nemen die de AI-geletterdheid ondersteunen van medewerkers die met AI-systemen werken; een bepaald niveau hoeft niet gewaarborgd te worden. Voor overheden met grote teams vraagt dit om een gestructureerd trainingsplan. Leg vast wie wat heeft gevolgd: dat is je bewijs.

Stap 7: Stel een incidentprocedure in Als je bij een hoogrisico-AI-systeem een ernstig incident vaststelt, informeer je als deployer direct eerst de aanbieder, en daarna de importeur of distributeur en de markttoezichthouder (artikel 26(5)). Welke toezichthouder dat in Nederland wordt, regelt de Uitvoeringswet AI-verordening, die nog in voorbereiding is. Zorg dat je weet wanneer iets een 'ernstig incident' is in de zin van Artikel 3, lid 49.

Deadlines die je niet mag missen

De AI-verordening is op 1 augustus 2024 in werking getreden. De meeste verplichtingen voor deployers van hoogrisico-systemen gelden, na de AI-omnibus, vanaf 2 december 2027 (Bijlage III). Hoog-risicosystemen die overheden vóór die datum al gebruiken, moeten uiterlijk 2 augustus 2030 voldoen. Dat klinkt ver weg, maar een FRIA opstellen voor een complex systeem kost tijd, zeker als je ook je leveranciers moet aanspreken op documentatieverplichtingen.

Verboden AI-praktijken (artikel 5) zijn al verboden sinds 2 februari 2025, en de AI-geletterdheidsplicht (artikel 4) geldt sinds dezelfde datum. Als je twijfelt of een systeem in de verboden categorie valt, los dat nu op.

Wie houdt toezicht?

In het concept van de Uitvoeringswet AI-verordening zijn de Autoriteit Persoonsgegevens en de RDI samen coördinerend toezichthouder. De wet is nog niet in werking; tot die tijd heeft de AP geen bevoegdheden onder de AI-verordening, wel onder de AVG. FRIA en DPIA groeien in de praktijk naar elkaar toe. Wie al een goed DPIA-proces heeft opgezet, heeft een voorsprong. Maar let op: een DPIA vervangt de FRIA niet; je mag er alleen naar verwijzen.

Wat nu?

Als je niet zeker weet welke AI-systemen jouw organisatie inzet, of je weet wel wat je gebruikt maar hebt nog geen FRIA opgesteld: begin daar. Één helder overzicht van je AI-landschap is de fundering van alles wat daarna komt.

Wil je weten waar je nu staat? Doe de gratis 2-minuten compliance-check op comply.khairos.ai en krijg direct inzicht in je grootste compliance-risico's als publieke deployer.

Bronnen

  1. Artikel 27

  2. Artikel 26

  3. Bijlage III

  4. autoriteitpersoonsgegevens.nl

  5. comply.khairos.ai

Weet je niet waar jouw bedrijf staat?

Beantwoord 15 vragen over hoe je team AI gebruikt. Je krijgt een compliance-score en de gaten die je eerst moet dichten, als PDF.

Ben ik compliant? Check in 2 minZo werkt Khairos Comply