Opis obrazu: Wydrukowany dokument unijnego aktu o AI z przezroczystą nakładką drzewa dostępności ARIA i wiecznym piórem na górze — wizualny znacznik skrzyżowania aktu o AI z prawem dotyczącym niepełnosprawności.

Czas czytania: 12 minut

Rozporządzenie (UE) 2024/1689, powszechnie zwane unijnym aktem o AI, zostało opublikowane w Dzienniku Urzędowym 12 lipca 2024 r., weszło w życie 1 sierpnia 2024 r. i osiągnęło główną datę stosowania — kiedy obowiązki dotyczące AI wysokiego ryzyka i AI ogólnego przeznaczenia wiążą dostawców i podmioty stosujące na całym Jednolitym Rynku — 2 sierpnia 2026 r. Jest to pierwsze kompleksowe horyzontalne prawo dotyczące AI w jakiejkolwiek głównej jurysdykcji, i nakłada się na — nie zastępuje — istniejący stos przepisów dotyczących praw osób niepełnosprawnych: Europejski Akt o Dostępności, Dyrektywę o Dostępności Stron Internetowych, Dyrektywę o Równości w Zatrudnieniu 2000/78/WE oraz ratyfikację przez UE Konwencji ONZ o prawach osób niepełnosprawnych (CRPD).

Dwa artykuły wykonują większość pracy nośnej tam, gdzie akt o AI i prawo dotyczące niepełnosprawności się krzyżują. Artykuł 16 określa obowiązki dostawców modeli AI ogólnego przeznaczenia — warstwy modeli fundamentalnych napędzającej większość produktów AI skierowanych do konsumentów w 2026 r. Artykuł 73, czytany łącznie z artykułami 8–15 i Załącznikiem III, określa wymagania wiążące dostawców i podmioty stosujące systemy AI wysokiego ryzyka. Niniejszy artykuł stanowi przewodnik po tym, jak te dwa artykuły krzyżują się z prawem dotyczącym niepełnosprawności w trzech konkretnych obszarach: AI stosowane w zatrudnieniu (narzędzia do selekcji CV, automatyczne ocenianie rozmów kwalifikacyjnych przez wideo), AI stosowane w edukacji (proctoring online, narzędzia dostępności, modelowanie ryzyka studentów) i AI stosowane w usługach podstawowych (scoring kredytowy konsumentów, triage medyczny, decyzje o uprawnieniach do świadczeń publicznych). Obejmuje też nakładkę CRPD, którą instytucjonalne zobowiązania UE nakładają na wierzch, oraz obowiązki dokumentacyjne — dokumentacja techniczna z Załącznika IV, monitorowanie po wprowadzeniu do obrotu, oceny skutków dla praw podstawowych — których dostawcy są teraz zobowiązani dostarczać.

Czym jest akt o AI — i jak jest zbudowany

Akt o AI jest rozporządzeniem, nie dyrektywą: stosuje się bezpośrednio w każdym państwie członkowskim bez krajowej transpozycji, a obowiązki, jakie nakłada na dostawców i podmioty stosujące, są jednolite we wszystkich 27 krajowych rynkach UE plus EOG. Jego podstawowym wyborem architektonicznym jest ramy poziomów ryzyka z czterema poziomami — zakazane praktyki (art. 5), systemy AI wysokiego ryzyka (art. 6–27 i Załącznik III), ograniczone obowiązki przejrzystości (art. 50) i nieuregulowane zastosowania minimalnego ryzyka. Na poziomach ryzyka nakłada się odrębny reżim — art. 51–56 — regulujący modele AI ogólnego przeznaczenia, z surowszymi obowiązkami uruchamianymi, gdy model przekroczy próg ryzyka systemowego określony w art. 51 ust. 2.

Etapowy kalendarz stosowania jest istotny, ponieważ dostawcy czytający to w 2026 r. nie stoją przed jednym terminem. Zakazy art. 5 dotyczące praktyk niedopuszczalnego ryzyka — scoring społeczny przez władze publiczne, biometryczna identyfikacja na odległość w czasie rzeczywistym w przestrzeniach publicznych z wyjątkiem ściśle określonych zastosowań organów ścigania, rozpoznawanie emocji w miejscach pracy i szkołach — stały się stosowalne 2 lutego 2025 r., sześć miesięcy po wejściu w życie. Obowiązki z art. 51–56 dotyczące AI ogólnego przeznaczenia stały się stosowalne 2 sierpnia 2025 r. Pełny reżim wysokiego ryzyka, w tym obowiązki monitorowania po wprowadzeniu do obrotu z art. 73, wszedł w życie 2 sierpnia 2026 r., z dalszym przedłużeniem do 2 sierpnia 2027 r. dla podzbioru systemów wysokiego ryzyka, które są jednocześnie komponentami bezpieczeństwa produktów już regulowanych na mocy unijnego prawa bezpieczeństwa produktów (prawo sektorowe Załącznika I — wyroby medyczne, maszyny, zabawki, pojazdy).

Egzekwowanie jest podzielone. Krajowe organy nadzoru rynku — wyznaczone przez każde państwo członkowskie i wymienione w publicznym rejestrze prowadzonym przez Biuro AI — zajmują się egzekwowaniem AI wysokiego ryzyka na miejscu. Biuro AI, ustanowione wewnątrz DG CNECT Komisji Europejskiej, ma wyłączną kompetencję w zakresie egzekwowania AI ogólnego przeznaczenia na mocy art. 88. Maksymalne kary administracyjne sięgają 35 mln EUR lub 7% światowego rocznego obrotu za naruszenie zakazów z art. 5, 15 mln EUR lub 3% za naruszenie większości innych obowiązków operatora, w tym obowiązków z art. 16 i 73 omówionych w niniejszym artykule, oraz 7,5 mln EUR lub 1% za dostarczenie nieprawidłowych lub wprowadzających w błąd informacji organom.

Artykuł 16 — co muszą robić dostawcy AI ogólnego przeznaczenia

Artykuł 16 jest przepisem operacyjnym dla warstwy modeli fundamentalnych. Stosuje się do dostawców modeli AI ogólnego przeznaczenia — zdefiniowanych w art. 3 ust. 63 jako modele AI trenowane na dużej ilości danych przy użyciu samouczenia się na dużą skalę, wykazujące znaczną ogólność, zdolne do kompetentnego wykonywania szerokiego zakresu odrębnych zadań. Duże modele językowe napędzające chatboty, wielomodalne modele obrazu i tekstu stosowane w analizie dokumentów, modele mowy coraz częściej pośredniczące w narzędziach dostępności: wszystkie są modelami AI ogólnego przeznaczenia w rozumieniu aktu o AI, a ich dostawcy dźwigają stos z art. 16.

Obowiązki z art. 16 dzielą się na trzy bloki. Po pierwsze, dokumentacja techniczna: dostawcy muszą przygotować i aktualizować plik techniczny obejmujący trening, testowanie i ocenę modelu, w tym źródła danych treningowych na wysokim poziomie, zużycie energii treningu, stosowane punkty odniesienia oceny i znane ograniczenia. Załącznik XI określa minimalną treść. Po drugie, ujawnienie informacji podmiotom stosującym downstream: dostawcy muszą udostępnić firmom integrującym model we własnych systemach wystarczające informacje o możliwościach, ograniczeniach, zamierzonym zastosowaniu i znanych ryzykach modelu, aby operator downstream mógł wypełniać własne obowiązki wynikające z aktu o AI. Po trzecie, prawa autorskie i proweniencja treści: dostawcy muszą ustanowić politykę przestrzegania prawa autorskiego UE, w tym zwolnienia z art. 4 ust. 3 dotyczącego eksploracji tekstu i danych na mocy Dyrektywy (UE) 2019/790, oraz opublikować wystarczająco szczegółowe podsumowanie korpusu danych treningowych.

Aspekt niepełnosprawności w art. 16 jest dwojaki. Po pierwsze, ujawnienie ograniczeń wymagane na mocy Załącznika XI sekcja 1 ust. 2 lit. c) wyraźnie obejmuje znane uprzedzenia i luki w wydajności wpływające na równość — a luki w wydajności istotne dla dostępności mieszczą się dokładnie w tym wymogu. Model rozpoznawania mowy działający mierzalnie gorzej na mowie dyzartrycznej, model opisywania obrazów błędnie identyfikujący użytkowników wózków inwalidzkich lub sprzętu ortopedycznego, model języka migowego zawodzący w regionalnych wariantach języka migowego: każde z tych ograniczeń dostawca musi ujawnić podmiotom stosującym downstream. Po drugie, dostawcy modeli spełniających próg ryzyka systemowego z art. 51 ust. 2 (obecnie ustawiony na moc obliczeniową treningu przekraczającą 10^25 FLOPs) dźwigają dodatkowe obowiązki z art. 55 dotyczące testów adwersarialnych, zgłaszania incydentów, zabezpieczeń cybernetycznych i oceny modeli pod kątem kategorii ryzyka systemowego — w tym wpływów na prawa podstawowe, do których rozporządzenie wyraźnie odsyła z powrotem do Karty Praw Podstawowych i CRPD.

Artykuł 73 — systemy AI wysokiego ryzyka i reżim po wprowadzeniu do obrotu

Artykuł 73 mieści się w sekcji 3 rozdziału III, sekcji regulującej systemy AI wysokiego ryzyka już wprowadzone na rynek. Wymaga, aby dostawcy AI wysokiego ryzyka ustanowili system monitorowania po wprowadzeniu do obrotu, proporcjonalny do charakteru systemu i prezentowanych ryzyk, który aktywnie i systematycznie gromadzi, dokumentuje i analizuje dane dotyczące wydajności systemu AI przez cały jego cykl życia. Monitoring musi stale oceniać zgodność z wymaganiami określonymi w art. 8–15, a dokumentacja musi być dostępna przez co najmniej dziesięć lat.

Artykuł 73 musi być czytany łącznie z merytorycznymi wymaganiami z art. 8–15, ponieważ monitoring po wprowadzeniu do obrotu jest mechanizmem, poprzez który zgodność z tymi wymaganiami jest demonstrowana w czasie. Artykuł 9 nakazuje system zarządzania ryzykiem. Artykuł 10 reguluje dane i zarządzanie danymi — wyraźnie wymagając, aby zestawy danych treningowych, walidacyjnych i testowych były trafne, wystarczająco reprezentatywne, wolne od błędów i kompletne w związku z zamierzonym celem, ze szczególną uwagą na „specyficzne środowisko geograficzne, kontekstualne, behawioralne lub funkcjonalne“, w którym system będzie stosowany. Artykuły 11 i Załącznik IV wymagają dokumentacji technicznej; art. 12 wymaga automatycznego rejestrowania zdarzeń; art. 13 wymaga przejrzystości i informacji dla podmiotów stosujących; art. 14 wymaga środków nadzoru ludzkiego zaprojektowanych w systemie; art. 15 wymaga dokładności, solidności i cyberbezpieczeństwa proporcjonalnych do zamierzonego celu. Artykuł 26 nakłada następnie obowiązki po stronie podmiotu stosującego — operatora faktycznie wdrażającego system.

To, co sprawia, że system jest „wysokiego ryzyka“, określa art. 6 i Załącznik III. Lista z Załącznika III wymienia osiem kategorii przypadków użycia — biometria; infrastruktura krytyczna; edukacja i szkolenie zawodowe; zatrudnienie i zarządzanie pracownikami; dostęp do podstawowych prywatnych i publicznych usług; egzekwowanie prawa; migracja, azyl i kontrola graniczna; wymiar sprawiedliwości i procesy demokratyczne — i w każdej kategorii wylicza konkretne przypadki użycia uruchamiające klasyfikację wysokiego ryzyka. Lista z Załącznika III jest w koncepcji niewyczerpująca, ale prawnie wiążąca: system AI stosowany do jednego z wymienionych celów jest systemem wysokiego ryzyka z mocy rozporządzenia, niezależnie od tego, jak dostawca go reklamuje.

Gdzie artykuły 16 i 73 krzyżują się z prawem dotyczącym niepełnosprawności

Trzy punkty przecięcia dominują w praktycznym krajobrazie compliance w 2026 r.: AI w zatrudnieniu, AI w edukacji i AI stosowane w usługach podstawowych. Każdy z nich mieści się w kategorii wysokiego ryzyka z Załącznika III i każdy niesie bezpośredni obowiązek wynikający z obowiązującego unijnego prawa antydyskryminacyjnego dotyczącego niepełnosprawności, który akt o AI teraz operacjonalizuje.

Zatrudnienie — selekcja CV, ocenianie rozmów wideo, monitoring produktywności

Sekcja 4 Załącznika III obejmuje systemy AI stosowane do rekrutacji, selekcji, przydzielania zadań, oceny wyników i decyzji o rozwiązaniu stosunku pracy. Narzędzia do selekcji CV rankingujące kandydatów względem opisów stanowisk, automatyczne platformy rozmów kwalifikacyjnych przez wideo oceniające odpowiedzi kandydatów na podstawie mimiki, wzorców mowy i doboru słów, narzędzia do monitorowania produktywności sygnalizujące pracowników do interwencji kierowniczej na podstawie danych o naciśnięciach klawiszy lub czasie ekranu: wszystkie są systemami wysokiego ryzyka z sekcji 4 Załącznika III. Obowiązek zarządzania ryzykiem z art. 9 i obowiązek zarządzania danymi z art. 10 wymagają od dostawców identyfikacji i ograniczenia ryzyk nieproporcjonalnego wpływu na etapie trenowania modelu. Dyrektywa o Równości w Zatrudnieniu 2000/78/WE, obowiązująca od 2003 r., zakazuje już bezpośredniej i pośredniej dyskryminacji ze względu na niepełnosprawność w rekrutacji i zatrudnieniu; akt o AI wymaga teraz, aby techniczne mechanizmy stojące za tym zakazem były weryfikowalne poprzez plik techniczny z Załącznika IV i monitoring po wprowadzeniu do obrotu z art. 73.

Obowiązek ograniczania uprzedzeń jest wyraźny. Artykuł 10 ust. 2 lit. g) wymaga, aby dostawcy badali decyzje projektowe dotyczące danych treningowych pod kątem „możliwych uprzedzeń, które mogą niekorzystnie wpływać na zdrowie i bezpieczeństwo osób, mieć negatywny wpływ na prawa podstawowe lub prowadzić do dyskryminacji zakazanej na mocy prawa Unii.“ Po zidentyfikowaniu nieproporcjonalnego wpływu związanego z niepełnosprawnością — modelu rozmowy wideo systematycznie penalizującego kandydatów z zaburzeniami mowy, modelu analityki HR błędnie klasyfikującego wzorce pracy pracowników z niepełnosprawnościami poznawczymi lub chorobami przewlekłymi — art. 10 ust. 2 lit. h) wymaga „odpowiednich środków wykrywania, zapobiegania i ograniczania“ go. Praca nad ograniczaniem musi być udokumentowana w pliku z Załącznika IV i stale oceniana poprzez system monitorowania po wprowadzeniu do obrotu z art. 73.

Edukacja — proctoring, narzędzia dostępności, przewidywanie ryzyka

Sekcja 3 Załącznika III obejmuje AI stosowane do określania dostępu do edukacji, oceny wyników nauczania, oceny odpowiedniego poziomu edukacji i monitorowania studentów podczas egzaminów. Systemy proctoringowe online sygnalizujące zachowanie egzaminacyjne są wyraźnie wymienione w preambule. Przecięcie z prawem dotyczącym niepełnosprawności jest tu ostre: model proctoringowy trenowany na neurotypowym wzorcu bazowym będzie systematycznie nad-sygnalizował studentów z ADHD, zaburzeniami tikowymi lub lękowymi — a stanowiące poniżej piętnastu procent studentów szkolnictwa wyższego, którzy mają udokumentowane niepełnosprawności (Eurostat 2024), dźwigają nieproporcjonalny wpływ. Zakaz z art. 5 ust. 1 lit. f) dotyczący rozpoznawania emocji w placówkach edukacyjnych eliminuje już jedną klasę modeli z legalnego rynku; to co pozostaje, to szersza warstwa proctoringowa i predykcji ryzyka działająca na mocy sekcji 3 Załącznika III jako wysokiego ryzyka.

Narzędzia dostępności stoją po drugiej stronie tej samej granicy. Napędzone AI transkrypcje, zamiana mowy na tekst na wykładach, generowanie tekstu alt przez AI i remedjacja dokumentów wspomagana przez AI same w sobie nie są zastosowaniami z Załącznika III — są usługami dostępności. Ale gdy placówka edukacyjna je zamawia, obowiązki przejrzystości i ujawniania informacji aktu o AI (art. 13, art. 50) nakładają się na istniejące uprzednio wymaganie deklaracji dostępności Dyrektywy o Dostępności Stron Internetowych. Szkoła wdrażająca narzędzie AI do transkrypcji musi publikować co narzędzie może i czego nie może, w tym znane luki dokładności dla mowy akcentowanej, regionalnych dialektów i treści miganych.

Usługi podstawowe — scoring kredytowy, triage medyczny, uprawnienia do świadczeń

Sekcja 5 Załącznika III obejmuje AI stosowane do oceny scoringów kredytowych lub zdolności kredytowej, oceny ryzyka przy wycenie ubezpieczeń życiowych i zdrowotnych, oceny uprawnień do podstawowych świadczeń i usług publicznych oraz ustalania priorytetów w ratownictwie. Każde z nich przecina się z prawem dotyczącym niepełnosprawności w innym punkcie. Modele scoringu kredytowego używające zmienności dochodu lub wzorców wydatków związanych z opieką zdrowotną jako cech mogą kodować nieproporcjonalny wpływ związany z niepełnosprawnością; AI do triagingu medycznego rankingująca pacjentów do leczenia może powielać te same uprzedzenia oparte na jakości życia, z którymi obrońcy praw osób niepełnosprawnych walczyli w sądach przez dwie dekady; automatyzacja uprawnień do świadczeń w kontekście ubezpieczeń społecznych — orzeczenie SyRI z Holandii i algorytmiczne sprawy PIP i Universal Credit z Wielkiej Brytanii to współczesny kanon — mieści się teraz wyraźnie w sekcji 5 Załącznika III, gdy jest stosowana przez unijne podmioty publiczne.

Artykuł 27 aktu o AI dodaje obowiązek oceny skutków dla praw podstawowych po stronie podmiotu stosującego dla systemów wysokiego ryzyka z Załącznika III stosowanych przez podmioty publiczne i pewne podmioty prywatne. FRIA obejmuje kategorie osób fizycznych prawdopodobnie dotkniętych, konkretne ryzyka szkody, wdrożone środki nadzoru ludzkiego oraz drogi naprawcze dla dotkniętych osób. Niepełnosprawność nie jest wymieniona w art. 27, ale zakaz dyskryminacji zawarty w art. 21 Karty Praw Podstawowych — do którego odsyła art. 27 — obejmuje wyraźnie niepełnosprawność, a art. 26 Karty uznaje prawo osób niepełnosprawnych do integracji i uczestnictwa. FRIA jest miejscem, gdzie wpływ na osoby z niepełnosprawnościami musi być oceniony przed wdrożeniem, a nie jako retrospektywny audyt.

Nakładka CRPD

Unia Europejska jest stroną Konwencji ONZ o prawach osób niepełnosprawnych we własnym imieniu — jako pierwsze traktat praw człowieka, do którego UE przystąpiła jako regionalna organizacja integracyjna — a CRPD wiąże zatem instytucje UE, w tym przy interpretacji aktu o AI. Artykuł 9 CRPD zobowiązuje strony do zapewnienia osobom niepełnosprawnym dostępu do informacji i komunikacji, w tym technologii informacyjnych i komunikacyjnych, na zasadzie równości z innymi. Artykuł 5 zobowiązuje do zakazania wszelkiej dyskryminacji ze względu na niepełnosprawność i do zagwarantowania równej i skutecznej ochrony prawnej.

Motyw 56 aktu o AI wyraźnie wskazuje CRPD jako część zakorzenienia regulacji w prawach podstawowych, a wytyczne interpretacyjne Biura AI — publikowane przez 2025 i 2026 r. w formie dokumentów Q&A i aktów delegowanych Komisji — wielokrotnie powoływały CRPD w kontekście obowiązków dostępności by design na mocy art. 16 aktu o AI (dostępność informacji) i wymiaru wpływu na osoby z niepełnosprawnościami w ocenach skutków dla praw podstawowych z art. 27. Praktyczna implikacja: gdy organ nadzoru rynku audytuje system wysokiego ryzyka z Załącznika III pod kątem nieproporcjonalnego wpływu na osoby z niepełnosprawnościami, audytuje względem standardów zarządzania danymi i ryzykiem aktu o AI interpretowanych w świetle zobowiązań CRPD dotyczących niedyskryminacji i dostępności. Dostawca argumentujący, że jego model działa „dobrze przeciętnie“ bez odniesienia do wydajności dla podgrup istotnych dla niepełnosprawności, argumentuje przeciwko własnym ramom interpretacyjnym rozporządzenia.

Praktyczne implikacje dla dostawców i podmiotów stosujących

Dla dostawców systemów AI wysokiego ryzyka i modeli AI ogólnego przeznaczenia architektura compliance w 2026 r. ma cztery nośne elementy. Po pierwsze, plik zarządzania danymi wymagany przez art. 10 — ustrukturyzowany zapis źródeł danych treningowych, analizy reprezentatywności, zidentyfikowanych uprzedzeń, w tym istotnych dla niepełnosprawności, i zastosowanych kroków ograniczających. Po drugie, dokumentacja techniczna z Załącznika IV — specyfikacje projektowe, architektura systemu, zamierzony cel, znane ograniczenia, instrukcje dla podmiotu stosującego, metryki wydajności dla podgrup demograficznych i dotyczących niepełnosprawności, gdzie dane istnieją. Po trzecie, system monitorowania po wprowadzeniu do obrotu na mocy art. 73 — rejestrowanie incydentów, kanały skarg, ciągła ocena wydajności, okresowa ponowna walidacja względem pierwotnego planu zarządzania ryzykiem. Po czwarte, gdzie ma zastosowanie, ocena skutków dla praw podstawowych na mocy art. 27 dla podmiotów stosujących w sektorze publicznym i quasi-publicznym.

Wczesne sygnały egzekwowania z pierwszych dziewięciu miesięcy pełnego stosowania (od sierpnia 2026 r.) są ograniczone, ale kierunkowo jasne. Biuro AI otworzyło wnioski o informacje wobec trzech wymienionych z nazwy dostawców modeli AI ogólnego przeznaczenia na podstawach przejrzystości i podsumowania dotyczącego praw autorskich. Krajowe organy nadzoru rynku w Holandii, Niemczech i Francji opublikowały wczesne dokumenty przewodnie dotyczące AI w zatrudnieniu z sekcji 4 Załącznika III, z których wszystkie trzy wyraźnie wskazują testowanie nieproporcjonalnego wpływu na osoby z niepełnosprawnościami jako oczekiwanie dokumentacyjne. Żadna ostateczna kara administracyjna nie została jeszcze wydana na mocy art. 99 — krzywa egzekwowania na podstawie RODO zajęła ok. 18 miesięcy, zanim pojawiły się pierwsze istotne grzywny, a akt o AI podąża porównywalną trajektorią. Sygnał dla dostawców jest taki, że reżim dokumentacyjny jest reżimem: dostawca, który nie może okazać pliku z Załącznika IV, pracy nad zarządzaniem danymi z art. 10 i monitorowania po wprowadzeniu do obrotu z art. 73 na żądanie, jest po złej stronie rozporządzenia, niezależnie od tego, czy grzywna została już wydana.

Dla środowiska osób z niepełnosprawnościami akt o AI nie zastępuje ochrony antydyskryminacyjnej z Dyrektywy 2000/78/WE, wymagań dostępności wynikających z Europejskiego Aktu o Dostępności ani kryteriów zamówieniowych z EN 301 549 — nakłada się na nie i nadaje im architekturę dokumentacyjną i nadzorczą, której brakowało istniejącym instrumentom. Następna fala egzekwowania, oczekiwana przez 2027 i 2028 r., to ta, w której interakcja między proceduralnymi obowiązkami aktu o AI a istniejącą materialną doktryną antydyskryminacji dotyczącą niepełnosprawności wyda orzecznictwo definiujące, jak w praktyce wygląda ograniczanie uprzedzeń. Niniejszy artykuł stanowi mapę terenu; sprawy narysują linie konturowe.