In dit artikel9 onderdelen
  1. Wat de EU AI-verordening verstaat onder bias
  2. Welke systemen vallen er eigenlijk onder
  3. Wie moet wat doen
  4. Praktische methoden voor het MKB
  5. Documentatie: wat je moet bewaren
  6. Wat doe je als je bias detecteert
  7. Toezicht en sancties
  8. Begin hier
  9. Bronnen

Hoog-risico AI en discriminerende uitkomsten: daar draait het om als je als MKB-bedrijf AI inzet voor werving, promotie of kredietscoring. De verordening legt de plicht om data op vooroordelen te toetsen bij de aanbieder (artikel 10). Als gebruiksverantwoordelijke (deployer) moet je vanaf 2 december 2027 de werking monitoren en zorgen dat invoerdata die jij beheert relevant en representatief zijn (artikel 26). Zelf uitkomsten toetsen op bias, AI-bias testen, is de beste manier om dat aan te tonen.

Laten we beginnen met wat de verordening verstaat onder bias, wie wat moet doen, en hoe je dat aanpakt als je geen team van data-scientists in huis hebt.

Wat de EU AI-verordening verstaat onder bias

De verordening gebruikt het woord 'bias' niet letterlijk, maar omschrijft het effect heel precies. Artikel 10 verplicht aanbieders van hoog-risico AI om te werken met trainings-, validatie- en testdata die relevant, voldoende representatief en zoveel mogelijk foutloos en volledig zijn. Het artikel eist ook dat de datasets worden onderzocht op mogelijke vooroordelen die de gezondheid en veiligheid van mensen kunnen schaden, grondrechten kunnen aantasten of tot verboden discriminatie kunnen leiden.

Kijk, wat dat in de praktijk betekent: als jouw recruitmenttool historische aanstellingsdata gebruikt die mannen bevoordeelt, dan bakt die bias letterlijk in het model. De aanbieder moet dat voorkomen. Jij als deployer ziet de gevolgen in je eigen praktijk, en moet vanaf 2 december 2027 de werking van het systeem monitoren. Het gaat daarbij om discriminatie op grond van kenmerken als geslacht, etnische afkomst, godsdienst, handicap, leeftijd of seksuele gerichtheid: dezelfde kenmerken die de AVG en de Nederlandse gelijkebehandelingswetgeving beschermen. De verordening en de AVG versterken elkaar hier.

Welke systemen vallen er eigenlijk onder

Niet elke AI-toepassing valt hieronder. Alleen hoog-risico systemen, zoals gedefinieerd in Bijlage III van de verordening. Voor het MKB zijn de meest relevante categorieën:

  • Werving en selectie: CV-screening, sollicitantenbeoordeling, interview-analysetools

  • Promotie en ontslag: AI die werkprestaties beoordeelt of promotiekandidaten selecteert

  • Kredietscoring: tools die kredietwaardigheid van particulieren beoordelen

  • Toegang tot onderwijs: systemen die studenten selecteren of beoordelen

Gebruik je zo'n systeem als deployer, dus je kiest het in, configureert het en zet het in op je eigen werknemers of klanten? Dan heb je eigen verplichtingen in jouw context, ook als de aanbieder (de leverancier) zegt dat het systeem al getest is. Artikel 26 geeft deployers van hoog-risicosystemen zelfstandige plichten, die gelden vanaf 2 december 2027.

Wie moet wat doen

De verordening legt dit niet in één artikel vast. Het verschil tussen aanbieder en deployer is daarbij de kern.

Voor de aanbieder gelden artikel 10 (data vrij van schadelijke vooroordelen), artikel 9 (een doorlopend risicobeheersysteem) en artikel 72 (monitoring na het in de handel brengen). Dat zijn geen plichten van jou als gebruiker.

Voor jou als deployer geldt vanaf 2 december 2027 artikel 26: gebruik het systeem volgens de gebruiksinstructies, wijs menselijk toezicht toe aan bekwame mensen, zorg dat invoerdata die jij beheert relevant en voldoende representatief zijn (lid 4), en monitor de werking (lid 5). Zie je dat het systeem risico's oplevert, zoals systematisch lagere scores voor bepaalde groepen, dan informeer je de aanbieder of distributeur en de markttoezichtautoriteit, en schort je het gebruik op.

Je kunt de trainingsdata van een extern systeem meestal niet inzien, maar je kunt wél de uitkomsten in jouw eigen context toetsen.

Combineer je dat met de AVG-verplichting tot een DPIA bij geautomatiseerde besluitvorming met grote risico's, dan heb je een behoorlijk eisenpakket op je bord.

Praktische methoden voor het MKB

Even serieus: je hoeft geen machine learning engineer te zijn om dit goed te doen. Er zijn methoden die gewoon werken voor een bedrijf van 50 of 100 mensen.

Uitkomstanalyse per groep Dit is de eenvoudigste test. Kijk naar de uitkomsten van je AI-systeem uitgesplitst naar beschermde kenmerken. Krijgen mannelijke sollicitanten structureel hogere scores dan vrouwelijke? Worden bepaalde postcodegebieden systematisch afgewezen bij kredietaanvragen? Je hebt hiervoor geen modelinzicht nodig, alleen de outputdata en een spreadsheet.

Let op: bijzondere persoonsgegevens (zoals etniciteit of gezondheid) mag je niet zomaar verwerken. Sinds de AI-omnibus (artikel 4a) mag je als gebruiksverantwoordelijke van een hoog-risicosysteem dat bij uitzondering doen als het strikt noodzakelijk is om bias op te sporen en te corrigeren, onder strikte waarborgen. Gegevens die je al rechtmatig verzamelt, kun je geaggregeerd analyseren. Leg dit vast in je DPIA.

Steekproef met handmatige review Neem maandelijks een steekproef van twintig beslissingen en laat een HR-medewerker of compliance officer ze handmatig beoordelen. Klopt de AI-aanbeveling met wat een redelijke persoon zou beslissen? Zijn er patronen in de gevallen waar het systeem afwijkt van de menselijke beoordeling?

Leverancierscheck Vraag je AI-leverancier schriftelijk: welke biastests zijn er gedaan voor dit systeem, op welke datasets, en wat waren de uitkomsten? Goede leveranciers hebben dit vastgelegd in hun technische documentatie (Artikel 11), en artikel 13 verplicht ze je gebruiksinstructies te geven met informatie over nauwkeurigheid en bekende risico's. Krijg je geen antwoord of vaag antwoord? Dat is een risicosignaal.

Periodieke hertest Systemen driften. Een model dat vorig jaar redelijk presteerde, kan nu scheefgetrokken zijn door veranderde inputdata. Plan minimaal één keer per jaar een hertest. Leg de datum, methode en uitkomst vast.

Documentatie: wat je moet bewaren

Dit is waar het MKB het meest struikelt. Niet het testen zelf, maar het aantonen dat je getest hebt. Een toezichthouder vraagt bij een onderzoek om bewijs, geen intenties.

Minimaal bewaar je:

  • Een beschrijving van het AI-systeem en het doel waarvoor je het inzet

  • Je eigen risicoanalyse van het gebruik

  • De resultaten van elke biastest, inclusief datum en methode

  • Maatregelen die je hebt genomen naar aanleiding van testresultaten

  • Correspondentie met de leverancier over gebruiksinstructies en testresultaten

Als het systeem ook persoonsgegevens verwerkt (wat bij HR-toepassingen bijna altijd het geval is), hoort dit ook in je DPIA. De AP heeft guidance gepubliceerd over AI en gegevensbescherming die specifiek ingaat op de combinatie AVG en AI-verordening.

Wat doe je als je bias detecteert

Je test, je vindt een probleem. Wat nu?

Eerst: raak niet in paniek en verstop het niet. Bias detecteren en erop reageren is precies wat de verordening bedoelt. Het verbergen ervan is het probleem.

Praktisch:

  1. Documenteer de bevinding onmiddellijk. Datum, beschrijving, omvang.

  2. Schakel het systeem tijdelijk terug naar menselijke besluitvorming voor de getroffen categorie, als de bias ernstig genoeg is.

  3. Informeer je leverancier schriftelijk. Vraag om een verklaring en een tijdlijn voor correctie.

  4. Beoordeel of betrokkenen geïnformeerd moeten worden. Onder artikel 86 van de verordening hebben mensen recht op uitleg bij besluiten op basis van een hoog-risico AI-systeem die hen aanzienlijk raken.

  5. Herzie je DPIA en pas de risicoanalyse aan.

Als de bias heeft geleid tot discriminatoire beslissingen die mensen schade hebben berokkend, kan ook een AVG-melding bij de AP aan de orde zijn. Dat is een aparte procedure, maar de overlap is reëel.

Toezicht en sancties

De AP is beoogd toezichthouder onder het concept van de Uitvoeringswet AI-verordening. Zolang die wet niet in werking is, heeft de AP geen bevoegdheden onder de AI-verordening. Onder de AVG houdt de AP wel al toezicht op geautomatiseerde besluitvorming.

Vanaf 2 december 2027 kunnen overtredingen van de plichten van gebruiksverantwoordelijken (artikel 26) beboet worden tot 15 miljoen euro of 3% van de wereldwijde omzet (Artikel 99); voor mkb geldt het laagste bedrag. Wie zijn monitoring heeft vastgelegd, staat sterk.

De verordening verplicht lidstaten bovendien om bij sancties rekening te houden met de belangen van het mkb (artikel 99, lid 1). Een gedegen, eerlijke documentatie van wat je hebt gedaan en wat je nog gaat doen, weegt mee. Perfectie is niet het doel. Aantoonbare zorgvuldigheid wel.

Begin hier

Maak deze week een lijst van alle AI-systemen die je inzet waarbij een geautomatiseerde beoordeling van mensen plaatsvindt. Noteer per systeem: valt het onder Bijlage III? Heb je documentatie van de leverancier? Heb je zelf ooit de uitkomsten geanalyseerd op groepspatronen?

Die lijst is je startpunt. Alles wat daarna komt, kun je stap voor stap opbouwen.

Wil je weten waar je nu staat? Via comply.khairos.ai doe je in twee minuten een gratis compliance-check die laat zien welke verplichtingen voor jouw organisatie het meest urgent zijn.

Bronnen

  1. Artikel 10

  2. Bijlage III

  3. Artikel 26

  4. Artikel 11

  5. guidance gepubliceerd over AI en gegevensbescherming

  6. Artikel 99

  7. comply.khairos.ai

Weet je niet waar jouw bedrijf staat?

Beantwoord 15 vragen over hoe je team AI gebruikt. Je krijgt een compliance-score en de gaten die je eerst moet dichten, als PDF.

Ben ik compliant? Check in 2 minZo werkt Khairos Comply