Afbeeldingsbeschrijving: Een gedrukt EU AI Act-document met een transparante ARIA-toegankelijkheidsstructuuroverlay en een vulpen bovenop — de visuele markering voor het snijpunt van de AI Act en de wetgeving inzake beperking.
Leestijd: 12 minuten
Verordening (EU) 2024/1689, doorgaans de EU AI Act genoemd, werd op 12 juli 2024 gepubliceerd in het Publicatieblad, trad op 1 augustus 2024 in werking en bereikte op 2 augustus 2026 de belangrijkste toepassingsdatum — het moment waarop de verplichtingen voor hoog-risico AI en AI voor algemeen gebruik bindend worden voor aanbieders en gebruikers in de gehele interne markt. Het is de eerste uitgebreide horizontale AI-wet in een groot rechtsgebied, en de verordening voegt zich boven — en vervangt niet — het bestaande kader voor rechten van mensen met een beperking: de Europese Toegankelijkheidsakte, de Richtlijn webtoegankelijkheid, de Richtlijn gelijke behandeling in arbeid en beroep 2000/78/EG, en de EU-ratificatie van het VN-Verdrag inzake de rechten van personen met een handicap (CRPD).
Twee artikelen dragen het grootste deel van het gewicht waar de AI Act en de wetgeving inzake beperking botsen. Artikel 16 stelt de verplichtingen vast voor aanbieders van AI-modellen voor algemeen gebruik — de foundationmodellaag die de meeste consumentgerichte AI-producten in 2026 aandrijft. Artikel 73, gelezen in samenhang met de artikelen 8 tot en met 15 en bijlage III, stelt de vereisten vast die bindend zijn voor aanbieders en gebruikers van hoog-risico AI-systemen. Dit artikel is een primer over hoe die twee artikelen de wetgeving inzake beperking kruisen in drie concrete situaties: AI gebruikt bij werkgelegenheid (cv-screeningtools, geautomatiseerde video-interviewscores), AI gebruikt in het onderwijs (online toezicht op examens, toegankelijkheidshulpmiddelen, risicomodellering voor studenten) en AI gebruikt bij essentiële diensten (kredietscoring voor consumenten, triage in de gezondheidszorg, beslissingen over de toekenning van sociale uitkeringen). Het behandelt ook de CRPD-overlay die de institutionele verplichtingen van de EU toevoegen, en de documentatieverplichtingen — technische documentatie uit bijlage IV, post-marketmonitoring, fundamentele rechten impactbeoordelingen — die leveranciers nu worden geacht te produceren.
Wat de AI Act is — en hoe de verordening is opgebouwd
De AI Act is een verordening, geen richtlijn: zij is in elke lidstaat rechtstreeks van toepassing zonder nationale omzetting, en de verplichtingen die zij aan aanbieders en gebruikers oplegt, zijn uniform in de 27/27 nationale EU-markten plus de EER. De centrale architectuurkeuze is een risiconiveaukader met vier niveaus — verboden praktijken (artikel 5), hoog-risico AI-systemen (artikelen 6 tot en met 27 en bijlage III), beperkte transparantieverplichtingen (artikel 50) en niet-gereguleerde toepassingen met minimaal risico. Bovenop de risiconiveaus regeert een afzonderlijk regime — artikelen 51 tot en met 56 — AI-modellen voor algemeen gebruik, waarbij strengere verplichtingen gelden wanneer een model de drempel voor systeemrisico van artikel 51 lid 2 overschrijdt.
De gefaseerde toepassingskalender is van belang, omdat aanbieders die dit in 2026 lezen niet één deadline voor ogen hebben. De verboden in artikel 5 op praktijken met onaanvaardbaar risico — sociale scoring door overheidsinstanties, real-time biometrische identificatie op afstand in openbare ruimten behalve voor nauw omschreven rechtshandhavingsdoeleinden, emotieherkenning op arbeidsplaatsen en in scholen — werden van toepassing op 2 februari 2025, zes maanden na de inwerkingtreding. De verplichtingen voor AI voor algemeen gebruik van artikelen 51-56 werden van toepassing op 2 augustus 2025. Het volledige hoog-risico regime, inclusief de post-marketmonitoringverplichtingen van artikel 73, trad in werking op 2 augustus 2026, met een verdere uitbreiding tot 2 augustus 2027 voor de deelgroep hoog-risico systemen die ook veiligheidscomponenten zijn van producten die reeds onder EU-productveiligheidswetgeving vallen (sectoriële wetgeving bijlage I — medische hulpmiddelen, machines, speelgoed, voertuigen).
De handhaving is verdeeld. Nationale markttoezichtautoriteiten — aangewezen door elke lidstaat en opgenomen in een openbaar register van het AI Office — behandelen de handhaving van hoog-risico AI ter plaatse. Het AI Office, gevestigd binnen het directoraat-generaal CNECT van de Europese Commissie, heeft exclusieve bevoegdheid voor de handhaving van AI voor algemeen gebruik op grond van artikel 88. Maximale administratieve boetes bedragen 35 miljoen euro of 7% van de wereldwijde jaaromzet voor inbreuken op de verboden van artikel 5, 15 miljoen euro of 3% voor inbreuken op de meeste andere operatorverplichtingen, inclusief de in deze primer behandelde verplichtingen van artikel 16 en artikel 73, en 7,5 miljoen euro of 1% voor het verstrekken van onjuiste of misleidende informatie aan autoriteiten.
Artikel 16 — wat aanbieders van AI voor algemeen gebruik moeten doen
Artikel 16 is de operationele bepaling voor de foundationmodellaag. Het is van toepassing op aanbieders van AI-modellen voor algemeen gebruik — gedefinieerd in artikel 3 lid 63 als AI-modellen die zijn getraind op een grote hoeveelheid data met behulp van zelfsupervisie op schaal, die een significante algemeenheid vertonen en die in staat zijn competent een breed scala aan afzonderlijke taken uit te voeren. De grote taalmodellen die chatbots aandrijven, de multimodale beeld-en-tekstmodellen die worden gebruikt bij documentanalyse, de spraakmodellen die in toenemende mate de toegankelijkheidshulpmiddelen benutten: ze zijn allemaal AI-modellen voor algemeen gebruik in de zin van de AI Act, en hun aanbieders dragen de verplichtingen van artikel 16.
De verplichtingen van artikel 16 zijn verdeeld in drie blokken. Ten eerste, technische documentatie: aanbieders moeten een technisch dossier opstellen en bijhouden over de training, het testen en de evaluatie van het model, inclusief de trainingsgegevensbronnen op hoog niveau, het energieverbruik van de training, de gebruikte evaluatie-benchmarks en de bekende beperkingen. Bijlage XI specificeert de minimuminhoud. Ten tweede, informatieverstrekking aan downstream-gebruikers: aanbieders moeten bedrijven die het model in hun eigen systemen integreren voldoende informatie verstrekken over de mogelijkheden, beperkingen, het beoogde gebruik en de bekende risico’s van het model, zodat de downstream-operator aan zijn eigen AI Act-verplichtingen kan voldoen. Ten derde, auteursrecht en herkomst van inhoud: aanbieders moeten een beleid invoeren om te voldoen aan het EU-auteursrecht, inclusief de opt-out voor tekst- en datamining van artikel 4 lid 3 krachtens Richtlijn (EU) 2019/790, en een voldoende gedetailleerde samenvatting van het trainingsgegevenskorpus publiceren.
De invalshoek vanuit beperking bij artikel 16 is tweeledig. Ten eerste valt de vereiste beperkingenopenbaarmaking krachtens bijlage XI sectie 1 lid 2 onder c expliciet bekende vooroordelen en oneerlijke prestatieverschillen — en prestatieverschillen op het gebied van toegankelijkheid vallen daar precies onder. Een spraakherkenningsmodel dat meetbaar slechter presteert bij dysartrische spraak, een model dat afbeeldingen beschrijft maar rolstoelgebruikers of mensen met loophulpmiddelen verkeerd identificeert, een gebarentaalmodel dat faalt bij regionale gebarentaalvarianten: elk van deze is een bekende beperking die de aanbieder aan downstream-gebruikers moet doorgeven. Ten tweede dragen aanbieders van modellen die de drempel voor systeemrisico van artikel 51 lid 2 bereiken (momenteel vastgesteld op trainingscomputer die 10^25 FLOPs overschrijdt) de aanvullende verplichtingen van artikel 55 inzake adversarieel testen, incidentrapportage, cyberbeveiligingsmaatregelen en modelevaluatie ten opzichte van categorieën systeemrisico’s — inclusief gevolgen voor de grondrechten, die de verordening expliciet terugverwijst naar het Handvest van de grondrechten en naar de CRPD.
Artikel 73 — hoog-risico AI-systemen en het post-marketregime
Artikel 73 bevindt zich in sectie 3 van hoofdstuk III, de sectie die hoog-risico AI-systemen beheert die al in de handel zijn gebracht. Het vereist dat aanbieders van hoog-risico AI een post-marketmonitoringsysteem opzetten, evenredig aan de aard van het systeem en de risico’s die het met zich meebrengt, dat actief en systematisch gegevens verzamelt, documenteert en analyseert over de prestaties van het AI-systeem gedurende de gehele levensduur. De monitoring moet de naleving van de vereisten van de artikelen 8 tot en met 15 voortdurend evalueren, waarbij documentatie gedurende ten minste tien jaar beschikbaar moet worden gehouden.
Artikel 73 moet worden gelezen in samenhang met de materiële vereisten van de artikelen 8 tot en met 15, omdat de post-marketmonitoring het mechanisme is waarmee de naleving van deze vereisten in de loop van de tijd wordt aangetoond. Artikel 9 stelt een risicobeheersysteem verplicht. Artikel 10 regelt data en data-governance — specifiek vereisend dat trainings-, validatie- en testdatasets relevant, voldoende representatief, vrij van fouten en compleet zijn, rekening houdend met de geografische, contextuele, gedragsmatige of functionele omgeving waarin het systeem zal worden gebruikt. Artikel 11 en bijlage IV vereisen technische documentatie; artikel 12 vereist automatische gebeurtenisregistratie; artikel 13 vereist transparantie en informatie voor gebruikers; artikel 14 vereist maatregelen voor menselijk toezicht die in het systeem zijn ingebouwd; artikel 15 vereist nauwkeurigheid, robuustheid en cyberbeveiliging evenredig aan het beoogde doel. Artikel 26 legt vervolgens verplichtingen op aan de gebruikerskant — de operator die het systeem feitelijk in gebruik neemt.
Wat een systeem “hoog-risico” maakt, is vastgesteld in artikel 6 en bijlage III. De lijst in bijlage III noemt acht gebruiksscenariocategorieën — biometrie; kritieke infrastructuur; onderwijs en beroepsopleiding; werkgelegenheid en beheer van werknemers; toegang tot essentiële particuliere en openbare diensten; rechtshandhaving; migratie, asiel en grenscontrole; beheer van justitie en democratische processen — en enumereer binnen elke categorie de specifieke gebruiksscenario’s die de hoog-risicoclassificatie triggeren. De lijst in bijlage III is conceptueel niet-uitputtend maar juridisch bindend: een AI-systeem dat wordt gebruikt voor een van de genoemde doeleinden is van rechtswege hoog-risico, ongeacht hoe de aanbieder het op de markt brengt.
Waar artikelen 16 en 73 de wetgeving inzake beperking kruisen
Drie kruispunten domineren het praktische nalevingslandschap in 2026: AI bij werkgelegenheid, AI in het onderwijs en AI bij essentiële diensten. Elk bevindt zich in een hoog-risicocategorie van bijlage III, en elk draagt een directe verplichting krachtens het bestaande EU-recht inzake discriminatie op grond van beperking die de AI Act nu operationaliseert.
Werkgelegenheid — cv-screening, video-interviewscores, productiviteitsmonitoring
Sectie 4 van bijlage III omvat AI-systemen die worden gebruikt voor werving, selectie, taakverdeling, prestatiebeoordeling en ontslagbeslissingen. Cv-screeningtools die kandidaten rangschikken op basis van functiebeschrijvingen, geautomatiseerde video-interviewplatforms die de reacties van kandidaten beoordelen op gezichtsuitdrukkingen, spraakpatronen en woordkeuze, productiviteitsmonitoringtools die werknemers voor managementinterventie markeren op basis van gegevens over toetsaanslagen of schermtijd: ze zijn allemaal hoog-risico krachtens sectie 4 van bijlage III. De risicobeheerverplichting van artikel 9 en de data-governanceverplichting van artikel 10 vereisen dat aanbieders risico’s van ongelijke behandeling identificeren en beperken in de fase van modeltraining. De Richtlijn gelijke behandeling in arbeid en beroep 2000/78/EG, van kracht sinds 2003, verbiedt al directe en indirecte discriminatie op grond van beperking bij werving en werkgelegenheid; de AI Act vereist nu dat de technische machinerie achter dit verbod controleerbaar is via het technische dossier van bijlage IV en via de post-marketmonitoring van artikel 73.
De verplichting tot beperking van vooroordelen is expliciet. Artikel 10 lid 2 onder g vereist dat aanbieders keuzes bij het ontwerp van trainingsdata onderzoeken op “mogelijke vooroordelen die de gezondheid en veiligheid van personen kunnen aantasten, een negatief effect kunnen hebben op grondrechten of kunnen leiden tot discriminatie verboden krachtens het Unierecht.” Zodra een disparate impact in verband met beperking wordt vastgesteld — een video-interviewmodel dat systematisch kandidaten met spraakbeperkingen benadeelt, een HR-analyticsmodel dat de werkpatronen van werknemers met cognitieve beperkingen of chronische ziekte verkeerd classificeert — vereist artikel 10 lid 2 onder h “passende maatregelen om [dergelijke vooroordelen] te detecteren, te voorkomen en te beperken.” De beperkingsmaatregelen moeten worden gedocumenteerd in het dossier van bijlage IV en voortdurend worden geëvalueerd via het post-marketmonitoringsysteem van artikel 73.
Onderwijs — toezicht op examens, toegankelijkheidshulpmiddelen, risicovoorspelling
Sectie 3 van bijlage III omvat AI die wordt gebruikt om toegang tot onderwijs te bepalen, leerresultaten te evalueren, het passende niveau van onderwijs te beoordelen en studenten tijdens toetsen te monitoren. Online proctoringsystemen die examengedrag markeren, worden expliciet in de overwegingen genoemd. Het snijpunt met de wetgeving inzake beperking is hier acuut: een proctoringsmodel dat is getraind op neurotypisch basisgedrag zal systematisch studenten met ADHD, ticsstoornissen of angst overmarkeren — en de minder dan vijftien procent van hogeronderwijsstudenten met gedocumenteerde beperkingen (Eurostat 2024) draagt de disparate impact. Het verbod in artikel 5 lid 1 onder f op emotieherkenning in onderwijsomgevingen verwijdert al één klasse van modellen volledig van de legale markt; wat overblijft, is de bredere proctoring- en risicovoorspellingslaag die onder sectie 3 van bijlage III als hoog-risico functioneert.
Toegankelijkheidshulpmiddelen bevinden zich aan de andere kant van dezelfde grens. AI-gestuurde ondertiteling, spraak-naar-tekst voor colleges, AI-generatie van alternatieve tekst en AI-ondersteunde documentherstel zijn zelf geen gebruiksscenario’s van bijlage III — het zijn toegankelijkheidsdiensten. Maar wanneer een onderwijsinstelling ze aanschaft, worden de transparantie- en informatieverstrekkingenverplichtingen van de AI Act (artikel 13, artikel 50) gecombineerd met de reeds bestaande vereiste voor een toegankelijkheidsverklaring van de Richtlijn webtoegankelijkheid. Een school die een AI-ondertitelingtool inzet, moet publiceren wat de tool wel en niet kan, inclusief de bekende nauwkeurigheidsleemten voor geaccentueerde spraak, regionale dialecten en gebarentaalinhoud.
Essentiële diensten — kredietscoring, triage in de gezondheidszorg, uitkeringstoekenning
Sectie 5 van bijlage III omvat AI die wordt gebruikt om kredietscores of kredietwaardigheid te evalueren, risico’s te beoordelen bij de prijsstelling van levens- en ziektekostenverzekeringen, de toekenning van essentiële openbare uitkeringen en diensten te evalueren, en noodhulp te verzenden of te prioriteren. Elk van deze kruist de wetgeving inzake beperking op een ander punt. Kredietscoringsmodellen die inkomensvolatiliteit of met gezondheidszorg verband houdende bestedingspatronen als kenmerken gebruiken, kunnen disparate impact in verband met beperking encoderen; AI voor triage in de gezondheidszorg die patiënten rangschikt voor behandeling, kan dezelfde op kwaliteit van leven gebaseerde vooroordelen reproduceren waartegen de gemeenschap van mensen met een beperking al twee decennia procedeert; uitkeringsautomatisering in de sociale-zekerheidscontext — de SyRI-uitspraak in Nederland en de algoritmische beslissingszaken PIP en Universal Credit in het Verenigd Koninkrijk zijn de hedendaagse canon — valt nu precies onder sectie 5 van bijlage III wanneer EU-overheidsinstanties deze gebruiken.
Artikel 27 van de AI Act voegt een verplichting tot een impactbeoordeling voor de grondrechten toe voor de gebruikerskant bij hoog-risico systemen van bijlage III die worden gebruikt door overheidsinstanties en bepaalde particuliere operators. De FRIA omvat de categorieën natuurlijke personen die waarschijnlijk worden getroffen, de specifieke risico’s op schade, de ingestelde maatregelen voor menselijk toezicht en de herstelopties voor getroffen personen. Beperking wordt niet met name genoemd in artikel 27, maar het verbod op discriminatie in artikel 21 van het Handvest van de grondrechten — waarnaar artikel 27 verwijst — dekt beperking expliciet, en artikel 26 van het Handvest erkent het recht van personen met een beperking op integratie en participatie. De FRIA is waar de impact op mensen met een beperking vóór inzet moet worden beoordeeld, niet als retrospectieve audit.
De CRPD-overlay
De Europese Unie is als eigen partij lid van het VN-Verdrag inzake de rechten van personen met een handicap — het eerste internationale mensenrechtsverdrag dat de EU als regionale integratie-organisatie is toegetreden — en de CRPD bindt daarom de EU-instellingen, inclusief bij hun interpretatie van de AI Act. Artikel 9 van de CRPD verplicht partijen om te zorgen voor toegang voor mensen met een beperking tot informatie en communicatie, inclusief informatie- en communicatietechnologieën, op gelijke voet met anderen. Artikel 5 verplicht hen tot het verbieden van alle discriminatie op grond van beperking en tot het waarborgen van gelijke en effectieve rechtsbescherming.
Overweging 56 van de AI Act noemt de CRPD expliciet als onderdeel van de grondrechtsverankering van de verordening, en de interpretatieve leidraad van het AI Office — gepubliceerd in de loop van 2025 en 2026 in de vorm van vragen-en-antwoord-documenten en gedelegeerde handelingen van de Commissie — heeft herhaaldelijk de CRPD aangehaald in de context van verplichtingen voor toegankelijkheid-by-design krachtens artikel 16 van de AI Act (toegankelijkheid van informatie) en de dimensie van impact op beperking van impactbeoordelingen voor de grondrechten van artikel 27. De praktische implicatie: wanneer een markttoezichtautoriteit een hoog-risico systeem van bijlage III auditet op disparate impact ten aanzien van beperking, auditet zij op basis van de data-governance- en risicobeheernormen van de AI Act geïnterpreteerd in het licht van de non-discriminatie- en toegankelijkheidsverplichtingen van de CRPD. Een aanbieder die stelt dat zijn model “gemiddeld goed presteert” zonder de prestaties op subgroepen met betrekking tot beperking te behandelen, betoogt tegen het eigen interpretatiekader van de verordening.
Praktische implicaties voor leveranciers en gebruikers
Voor aanbieders van hoog-risico AI-systemen en van AI-modellen voor algemeen gebruik heeft de nalevingsarchitectuur in 2026 vier dragende componenten. Ten eerste, het data-governancedossier vereist door artikel 10 — een gestructureerd overzicht van trainingsgegevensbronnen, representativiteitsanalyse, geïdentificeerde vooroordelen inclusief die met betrekking tot beperking, en de toegepaste beperkingsmaatregelen. Ten tweede, de technische documentatie van bijlage IV — ontwerpspecificaties, systeemarchitectuur, beoogd doel, bekende beperkingen, instructies voor de gebruiker, prestatiecijfers over demografische en beperking-subgroepen waar de gegevens beschikbaar zijn. Ten derde, het post-marketmonitoringsysteem krachtens artikel 73 — incidentregistratie, klachtenkanalen, voortdurende prestatiebeoordeling, periodieke hervalidatie ten opzichte van het oorspronkelijke risicobeheersplan. Ten vierde, waar van toepassing, de impactbeoordeling voor de grondrechten krachtens artikel 27 voor gebruikers in de publieke en quasi-publieke sector.
Vroege handhavingssignalen uit de eerste negen maanden van volledige toepasbaarheid (augustus 2026 en verder) zijn beperkt maar duidelijk van richting. Het AI Office heeft informatieverzoeken ingediend bij drie genoemde aanbieders van AI-modellen voor algemeen gebruik op grond van transparantie en auteursrechtsamenvatting. Nationale markttoezichtautoriteiten in Nederland, Duitsland en Frankrijk hebben vroege leidraaddocumenten gepubliceerd over werkgelegenheids-AI van sectie 4 van bijlage III, waarvan alle drie expliciet het testen op disparate impact in verband met beperking noemen als documentatieverwachting. Er is nog geen definitieve administratieve boete uitgevaardigd krachtens artikel 99 — de handhavingscurve onder de AVG had circa 18 maanden nodig om de eerste materiële boetes te produceren, en de AI Act volgt een vergelijkbaar traject. Het signaal aan leveranciers is dat het documentatieregime het regime is: een aanbieder die zijn dossier van bijlage IV, zijn data-governancewerk van artikel 10 en zijn post-marketmonitoring van artikel 73 niet op verzoek kan tonen, bevindt zich aan de verkeerde kant van de verordening, ongeacht of er al een boete is opgelegd.
Voor de gemeenschap van mensen met een beperking vervangt de AI Act de discriminatiebeschermingen uit Richtlijn 2000/78/EG, de toegankelijkheidsvereisten uit de Europese Toegankelijkheidsakte of de aanbestedingscriteria krachtens EN 301 549 niet — de verordening voegt zich daarboven en geeft ze een documentatie- en toezichtsarchitectuur die de bestaande instrumenten misten. De volgende golf van handhaving, verwacht gedurende 2027 en 2028, is waar het samenspel tussen de procedurele verplichtingen van de AI Act en de bestaande materiële doctrine inzake discriminatie op grond van beperking de jurisprudentie zal produceren die bepaalt hoe beperking van vooroordelen er in de praktijk uitziet. Dit artikel is de kaart van het terrein; de zaken zullen de hoogtelijnen tekenen.