In dit artikel6 onderdelen
De meeste AI-problemen bij MKB beginnen niet met slechte technologie. Ze beginnen met een getekend contract waarbij niemand heeft gevraagd: wat staat er eigenlijk in dit systeem, en wie is er verantwoordelijk als het misgaat?
Dat is geen hypothetische vraag meer. Artikel 26 van de EU AI-verordening legt deployers van hoog-risicosystemen, dus jij als bedrijf dat zo'n systeem van een leverancier gebruikt, vanaf 2 december 2027 eigen verplichtingen op, naast die van de aanbieder. Dat betekent dat je bij het selecteren van een AI-leverancier niet alleen kijkt naar prijs en functionaliteit, maar ook naar wat die leverancier jou juridisch en technisch kan aanleveren.
Deze checklist helpt je dat gestructureerd te doen.
Waarom deployers zelf verantwoordelijk zijn
Kijk, de EU AI-verordening maakt onderscheid tussen aanbieders (de partij die het systeem ontwikkelt en op de markt brengt) en deployers (de partij die het systeem in gebruik neemt). Voor hoog-risico AI-systemen — denk aan HR-tools die cv's screenen, systemen die toegang tot diensten beïnvloeden, of software die werkprestaties beoordeelt — gelden voor beide partijen eigen verplichtingen.
Als deployer moet je maatregelen nemen om de AI-geletterdheid van medewerkers te ondersteunen (artikel 4, geldt al voor alle AI). Bij hoog-risicosystemen organiseer je daarnaast menselijk toezicht, en sommige deployers moeten een grondrechten-impactbeoordeling (FRIA) uitvoeren (artikel 27): overheden, private aanbieders van openbare diensten, en wie AI inzet voor kredietscoring of premieberekening bij levens- en zorgverzekeringen. Maar om dat te kunnen doen, heb je informatie nodig die alleen de aanbieder heeft. Die informatie moet je dus actief opvragen, liefst vóórdat je tekent.
Vanaf 2 december 2027 kunnen deployers die hun hoog-risico verplichtingen schenden een boete krijgen tot 15 miljoen euro of 3% van de wereldwijde omzet; voor mkb geldt het laagste van beide bedragen. Dat staat in artikel 99 van de verordening.
Fase 1: Documentatie die je moet opvragen
Risicoklasse en wettelijke grondslag
Vraag altijd: in welke risicoklasse valt dit systeem volgens de EU AI-verordening? Een serieuze aanbieder weet dit antwoord. Is het een hoog-risico systeem (Bijlage III), dan is vanaf 2 december 2027 een reeks extra verplichtingen van toepassing, voor zowel aanbieder als jou als deployer.
Vraag ook of het systeem een CE-markering heeft en of er een EU-conformiteitsverklaring beschikbaar is. Dat is niet optioneel voor hoog-risico systemen: vanaf 2 december 2027 (Bijlage III) en 2 augustus 2028 (Bijlage I) is het verplicht.
Technische documentatie
Hoog-risico aanbieders zijn verplicht technische documentatie op te stellen voor de toezichthouder, en jou gebruiksinstructies te geven (artikel 13). Vraag concreet:
-
Een beschrijving van het systeem, inclusief doel, trainingdata en beperkingen
-
Informatie over de prestatiemetingen en de gebruikte testmethoden
-
Beschrijving van menselijke toezichtmaatregelen die in het systeem zijn ingebouwd
-
Instructies voor gebruik (de zogenoemde instructions for use; vraag of er een Nederlandstalige versie is)
Als de aanbieder zegt dat dit allemaal vertrouwelijk is en je niets kan aanleveren: rode vlag. Je hoeft de broncode niet te zien, maar basale systeeminformatie heeft iedere deployer nodig.
DPIA-input
Veel AI-systemen verwerken persoonsgegevens. Dat betekent dat je als deployer mogelijk een gegevensbeschermingseffectbeoordeling (DPIA) moet uitvoeren onder de AVG. De Autoriteit Persoonsgegevens heeft hierover duidelijke richtlijnen gepubliceerd.
Vraag bij de aanbieder:
-
Welke persoonsgegevens verwerkt het systeem?
-
Worden data gedeeld met derde partijen of subverwerkers?
-
Is de aanbieder bereid een verwerkersovereenkomst (AVG) te tekenen?
-
Heeft de aanbieder zelf een DPIA uitgevoerd, en kan je inzage krijgen in de bevindingen?
Dit is informatie die je nodig hebt voor je eigen DPIA. Een aanbieder die dit weigert te verstrekken, maakt het jou onmogelijk aan je AVG-verplichtingen te voldoen.
Incidenthistorie en updates
Vraag naar bekende fouten, biases of incidenten met het systeem. Serieuze aanbieders hebben dit gedocumenteerd. Vraag ook hoe het systeem geüpdatet wordt en of die updates de risicoklassificatie kunnen beïnvloeden.
Fase 2: Contractuele clausules
Een contract dat alleen over prijs en SLA gaat, is voor AI-systemen onvoldoende. Zorg dat je de volgende punten expliciet regelt.
Rolverdeling deployer/aanbieder
Leg in het contract vast wie welke verplichtingen draagt. Als de aanbieder beweert dat jij als deployer geen extra verplichtingen hebt omdat zij alles regelen, vraag dan om dat schriftelijk, met verwijzing naar de specifieke artikelen van de AI-verordening. Dat is namelijk zelden volledig waar.
Informatieverplichtingen
Als een hoog-risicosysteem niet meer conform is, moet de aanbieder corrigerende maatregelen nemen en jou informeren (artikel 20). Leg daarnaast contractueel vast dat je over andere wijzigingen wordt geïnformeerd, zoals updates die de risicoklasse kunnen beïnvloeden. Zo heb je een duidelijk aanspreekpunt als het systeem verandert.
Auditrechten en toegang tot documentatie
Zorg dat je het recht hebt om documentatie op te vragen en periodieke audits te laten uitvoeren, of in ieder geval inzage te krijgen in de EU-conformiteitsverklaring en andere conformiteitsdocumentatie. Dit is niet overbodig: als een toezichthouder vragen stelt, ben jij degene die moet aantonen dat je zorgvuldig hebt gehandeld.
Aansprakelijkheid bij AI-fouten
Wat gebeurt er als het systeem een fout maakt die schade veroorzaakt? Regel dit expliciet. Denk aan situaties waarbij een HR-tool een kandidaat onterecht afwijst, of een kredietbeoordelingssysteem een incorrect resultaat geeft. Artikel 86 van de EU AI-verordening geeft personen het recht op uitleg bij besluiten op basis van een hoog-risico AI-systeem uit Bijlage III die hen aanzienlijk raken. Jij moet die uitleg kunnen geven.
Beëindigingsclausule bij non-compliance
Neem een clausule op die je het recht geeft het contract te beëindigen als de aanbieder structureel niet voldoet aan zijn verplichtingen onder de AI-verordening. Dat klinkt vergezocht, maar zodra de hoog-risico regels gelden, wil je die uitweg hebben.
Fase 3: Periodieke heroverweging
Een eenmalige due diligence bij aanschaf is niet voldoende. AI-systemen veranderen, de verordening wordt concreter via uitvoeringshandelingen, en jouw eigen gebruik van het systeem kan ook veranderen.
Plan minimaal één keer per jaar een heroverweging in. Check dan:
-
Is de risicoklassificatie van het systeem nog actueel?
-
Heeft de aanbieder updates uitgebracht die de werking of het datagebruik beïnvloeden?
-
Zijn er incidenten gemeld bij de aanbieder of bij andere gebruikers?
-
Klopt de verwerkersovereenkomst nog met de actuele datastromen?
-
Zijn er nieuwe uitvoeringshandelingen of guidance van de Europese Commissie die van toepassing zijn?
Voor hoog-risico systemen geldt vanaf 2 december 2027 ook dat je als deployer bij een ernstig incident direct eerst de aanbieder informeert en daarna de importeur of distributeur en de markttoezichthouder (artikel 26(5)). Dat is geen verplichting die je aan de aanbieder kunt delegeren.
Wat dit in de praktijk betekent
Eerlijk gezegd: veel MKB-bedrijven hebben dit gesprek met hun AI-leverancier nog nooit gevoerd. Ze hebben een SaaS-contract getekend, een tool in gebruik genomen, en aangenomen dat de leverancier wel alles heeft geregeld.
Dat werkt niet meer. De EU AI-verordening is sinds 2 augustus 2026 grotendeels van toepassing, de verbodsbepalingen en de AI-geletterdheidsplicht gelden al sinds februari 2025, en voor hoog-risico systemen gelden de deployer-verplichtingen vanaf 2 december 2027 (Bijlage III) en 2 augustus 2028 (Bijlage I). Dat klinkt ver weg, maar het opbouwen van een gedocumenteerd due diligence-proces kost tijd.
Begin met het inventariseren welke AI-systemen je al gebruikt. Welke daarvan verwerken persoonsgegevens? Welke beïnvloeden beslissingen over mensen? Voor die systemen stuur je een gestructureerde informatieopvraag naar je leverancier, gebaseerd op de punten hierboven.
Leveranciers die hierop inhoudelijk kunnen reageren, zijn de moeite waard. Leveranciers die dit wegwuiven, geven je eigenlijk het antwoord dat je nodig hebt.
Wil je weten waar je nu staat? De gratis 2-minuten compliance-check op comply.khairos.ai geeft je een eerste beeld van welke verplichtingen op jouw organisatie van toepassing zijn, inclusief welke AI-systemen in scope vallen voor de EU AI-verordening.
Bronnen
Weet je niet waar jouw bedrijf staat?
Beantwoord 15 vragen over hoe je team AI gebruikt. Je krijgt een compliance-score en de gaten die je eerst moet dichten, als PDF.