Описание на изображението: Печатен документ на Акта на ЕС за ИИ с прозрачно наслагване на дървото за достъпност на ARIA и писалка отгоре — визуалният знак за пресечната точка между Акта за ИИ и правото за уврежданията.

Време за четене: 12 минути

Регламент (ЕС) 2024/1689, обикновено наричан Актът на ЕС за ИИ, беше публикуван в Официален вестник на 12 юли 2024 г., влезе в сила на 1 август 2024 г. и достигна основната си дата на приложимост — когато задълженията за високорисков ИИ и за ИИ с общо предназначение обвързват доставчиците и внедрителите в рамките на единния пазар — на 2 август 2026 г. Той е първият всеобхватен хоризонтален закон за ИИ в която и да е голяма юрисдикция и стои върху, а не заменя, съществуващия пакет от права на хората с увреждания: Европейския акт за достъпност, Директивата за достъпност на уебсайтовете, Директивата за равно третиране в заетостта 2000/78/ЕО и ратификацията от ЕС на Конвенцията на ООН за правата на хората с увреждания (CRPD).

Два члена вършат по-голямата част от носещата работа там, където Актът за ИИ и правото за уврежданията се сблъскват. Член 16 определя задълженията за доставчиците на модели на ИИ с общо предназначение — слоят на базовите модели, който задвижва повечето насочени към потребителите ИИ продукти през 2026 г. Член 73, четен заедно с членове 8 до 15 и Приложение III, определя изискванията, които обвързват доставчиците и внедрителите на високорискови системи с ИИ. Този материал е наръчник за това как тези два члена се пресичат с правото за уврежданията в три конкретни условия: ИИ, използван в заетостта (инструменти за отсяване на автобиографии, автоматизирано оценяване на видеоинтервюта), ИИ, използван в образованието (онлайн наблюдение на изпити, инструменти за достъпност, моделиране на риска при учащите) и ИИ, използван в основни услуги (кредитен скоринг за потребители, медицински триаж, решения за допустимост до обществени помощи). Той обхваща също надстройката от CRPD, която институционалните ангажименти на ЕС добавят отгоре, и задълженията за документиране — техническа документация по Приложение IV, наблюдение след пускане на пазара, оценки на въздействието върху основните права — които доставчиците сега се очаква да изготвят.

Какво представлява Актът за ИИ — и как е структуриран

Актът за ИИ е регламент, а не директива: той се прилага пряко във всяка държава членка без национално транспониране, а задълженията, които налага на доставчиците и внедрителите, са еднакви в 27-те национални пазара на ЕС плюс ЕИП. Основният му архитектурен избор е рамка на нива на риска с четири нива — забранени практики (член 5), високорискови системи с ИИ (членове 6 до 27 и Приложение III), задължения за прозрачност при ограничен риск (член 50) и нерегулирани употреби с минимален риск. Наслоен върху нивата на риска, отделен режим — членове 51 до 56 — урежда моделите на ИИ с общо предназначение, с по-строги задължения, задействани, когато даден модел премине прага за системен риск, определен в член 51, параграф 2.

Поетапният календар на приложимост има значение, защото доставчиците, които четат това през 2026 г., не са изправени пред единен краен срок. Забраните по член 5 за практики с неприемлив риск — социален скоринг от публични органи, дистанционна биометрична идентификация в реално време в обществени пространства, освен за тясно дефинирани цели на правоприлагането, разпознаване на емоции на работни места и в училища — станаха приложими на 2 февруари 2025 г., шест месеца след влизането в сила. Задълженията по членове 51–56 за ИИ с общо предназначение станаха приложими на 2 август 2025 г. Пълният режим за високорисков ИИ, включително задълженията за наблюдение след пускане на пазара по член 73, влезе в сила на 2 август 2026 г., с допълнително удължаване до 2 август 2027 г. за подмножеството от високорискови системи, които са също предпазни компоненти на продукти, вече регулирани от продуктовото законодателство на ЕС за безопасност (секторно право по Приложение I — медицински изделия, машини, играчки, превозни средства).

Правоприлагането е разделено. Националните органи за надзор на пазара — определени от всяка държава членка и вписани в публичен регистър, поддържан от Службата по ИИ — се занимават с правоприлагането на високорисковия ИИ на терен. Службата по ИИ, създадена в рамките на генерална дирекция CNECT на Европейската комисия, има изключителна компетентност за правоприлагане на ИИ с общо предназначение по член 88. Максималните административни глоби достигат 35 милиона евро или 7% от световния годишен оборот за нарушения на забраните по член 5, 15 милиона евро или 3% за нарушения на повечето други задължения на операторите, включително задълженията по членове 16 и 73, обхванати в този наръчник, и 7,5 милиона евро или 1% за предоставяне на неточна или подвеждаща информация на органите.

Член 16 — какво трябва да правят доставчиците на ИИ с общо предназначение

Член 16 е оперативната разпоредба за слоя на базовите модели. Той се прилага за доставчиците на модели на ИИ с общо предназначение — определени в член 3, точка 63, като модели на ИИ, обучени върху голямо количество данни чрез самонадзор в мащаб, проявяващи значителна обобщеност, способни компетентно да изпълняват широк набор от отделни задачи. Големите езикови модели, задвижващи чатботове, мултимодалните модели за изображения и текст, използвани при анализ на документи, речевите модели, които все по-често посредничат на инструментите за достъпност: всички те са модели на ИИ с общо предназначение за целите на Акта за ИИ, а доставчиците им носят пакета задължения по член 16.

Задълженията по член 16 се разделят на три блока. Първо, техническа документация: доставчиците трябва да изготвят и поддържат актуален технически файл, обхващащ обучението, тестването и оценяването на модела, включително източниците на данни за обучение на високо ниво, енергийното потребление при обучението, използваните оценъчни бенчмаркове и известните ограничения. Приложение XI определя минималното съдържание. Второ, информационни разкрития към внедрителите надолу по веригата: доставчиците трябва да предоставят на компаниите, които интегрират модела в собствените си системи, достатъчно информация за способностите, ограниченията, предназначението и известните рискове на модела, за да може операторът надолу по веригата да спазва собствените си задължения по Акта за ИИ. Трето, авторско право и произход на съдържанието: доставчиците трябва да въведат политика за спазване на правото на ЕС в областта на авторското право, включително възможността за отказ от извличане на текст и данни по член 4, параграф 3 от Директива (ЕС) 2019/790, и да публикуват достатъчно подробно резюме на корпуса от данни за обучение.

Аспектът на уврежданията при член 16 е двоен. Първо, разкриването на ограниченията, изисквано по Приложение XI, раздел 1, точка 2, буква в), изрично обхваща известните отклонения и несправедливите разлики в производителността — а свързаните с достъпността разлики в производителността попадат категорично в това изискване. Модел за разпознаване на реч, който се представя измеримо по-зле при дизартрична реч, модел за описание на изображения, който погрешно идентифицира потребители на инвалидни колички или помощни средства за придвижване, модел за жестов език, който се проваля при регионални варианти на жестовия език: всяко от тях е известно ограничение, което доставчикът трябва да изведе пред внедрителите надолу по веригата. Второ, доставчиците на модели, отговарящи на прага за системен риск по член 51, параграф 2 (понастоящем определен на изчислителна мощност за обучение, надхвърляща 10^25 FLOP-а), носят допълнителните задължения по член 55 за състезателно тестване, докладване на инциденти, защитни мерки за киберсигурност и оценка на модела спрямо категориите за системен риск — включително въздействията върху основните права, които регламентът изрично препраща обратно към Хартата на основните права и към CRPD.

Член 73 — високорискови системи с ИИ и режимът след пускане на пазара

Член 73 се намира в раздел 3 на глава III — разделът, който урежда високорисковите системи с ИИ, вече пуснати на пазара. Той изисква доставчиците на високорисков ИИ да създадат система за наблюдение след пускане на пазара, пропорционална на естеството на системата и рисковете, които тя представя, която активно и систематично събира, документира и анализира данни за производителността на системата с ИИ през целия ѝ жизнен цикъл. Наблюдението трябва непрекъснато да оценява съответствието с изискванията, посочени в членове 8 до 15, като документацията се съхранява на разположение поне десет години.

Член 73 трябва да се чете в тандем с материалните изисквания на членове 8–15, защото наблюдението след пускане на пазара е механизмът, чрез който съответствието с тези изисквания се доказва във времето. Член 9 изисква система за управление на риска. Член 10 урежда данните и управлението на данните — конкретно изисквайки наборите от данни за обучение, валидиране и тестване да са релевантни, достатъчно представителни, без грешки и пълни с оглед на предназначението, с изрично внимание към „конкретната географска, контекстуална, поведенческа или функционална среда“, в която системата ще се използва. Член 11 и Приложение IV изискват техническа документация; член 12 изисква автоматично регистриране на събития; член 13 изисква прозрачност и информация за внедрителите; член 14 изисква мерки за човешки надзор, вградени в системата; член 15 изисква точност, устойчивост и киберсигурност, пропорционални на предназначението. Член 26 след това наслагва задължения от страната на внедрителя — операторът, който действително пуска системата в употреба.

Какво прави една система „високорискова“ е определено в член 6 и Приложение III. Списъкът в Приложение III назовава осем категории случаи на употреба — биометрия; критична инфраструктура; образование и професионално обучение; заетост и управление на работниците; достъп до основни частни и публични услуги; правоприлагане; миграция, убежище и граничен контрол; правораздаване и демократични процеси — и във всяка категория изброява конкретните случаи на употреба, които задействат класификацията като високорискова. Списъкът в Приложение III е неизчерпателен по замисъл, но обвързващ по право: система с ИИ, използвана за една от изброените цели, е високорискова по силата на регламента, независимо как доставчикът я предлага на пазара.

Къде членове 16 и 73 се пресичат с правото за уврежданията

Три пресечни точки доминират практическата картина на съответствието през 2026 г.: ИИ в заетостта, ИИ в образованието и ИИ, използван в основни услуги. Всяка от тях се намира в категория за висок риск по Приложение III и всяка носи пряко задължение по съществуващото право на ЕС срещу дискриминация на хора с увреждания, което Актът за ИИ сега операционализира.

Заетост — отсяване на автобиографии, оценяване на видеоинтервюта, мониторинг на производителността

Раздел 4 от Приложение III обхваща системите с ИИ, използвани за набиране, подбор, разпределяне на задачи, оценка на изпълнението и решения за прекратяване. Инструменти за отсяване на автобиографии, които класират кандидатите спрямо длъжностни характеристики, автоматизирани платформи за видеоинтервюта, които оценяват отговорите на кандидатите по изражения на лицето, речеви модели и избор на думи, инструменти за мониторинг на производителността, които сигнализират за работници за управленска намеса въз основа на данни за натискане на клавиши или време пред екрана: всички те са високорискови по раздел 4 от Приложение III. Задължението за управление на риска по член 9 и задължението за управление на данните по член 10 изискват доставчиците да идентифицират и смекчат рисковете от различно въздействие на етапа на обучение на модела. Директивата за равно третиране в заетостта 2000/78/ЕО, в сила от 2003 г., вече забранява пряката и непряката дискриминация на основание увреждане при набирането и заетостта; Актът за ИИ сега изисква техническият механизъм зад тази забрана да е проверим чрез техническия файл по Приложение IV и чрез наблюдението след пускане на пазара по член 73.

Задължението за смекчаване на отклоненията е изрично. Член 10, параграф 2, буква ж) изисква доставчиците да проучат проектните решения за данните за обучение за „възможни отклонения, които е вероятно да засегнат здравето и безопасността на хората, да имат отрицателно въздействие върху основните права или да доведат до дискриминация, забранена от правото на Съюза“. След като бъде идентифицирано свързано с увреждане различно въздействие — модел за видеоинтервю, който системно санкционира кандидати с речеви увреждания, модел за HR анализ, който погрешно класифицира работните модели на служители с когнитивни увреждания или хронично заболяване — член 10, параграф 2, буква з) изисква „подходящи мерки за откриване, предотвратяване и смекчаване“ на това въздействие. Работата по смекчаването трябва да бъде документирана в файла по Приложение IV и непрекъснато оценявана чрез системата за наблюдение след пускане на пазара по член 73.

Образование — наблюдение на изпити, инструменти за достъпност, прогнозиране на риска

Раздел 3 от Приложение III обхваща ИИ, използван за определяне на достъпа до образование, оценяване на резултатите от обучението, преценка на подходящото образователно ниво и наблюдение на учащите по време на тестове. Системите за онлайн наблюдение на изпити, които сигнализират за изпитно поведение, са изрично назовани в съображенията. Пресечната точка с правото за уврежданията тук е остра: модел за наблюдение на изпити, обучен върху невротипично базово поведение, системно ще свръхсигнализира за учащи с ADHD, тикови разстройства или тревожност — а под петнадесет процента от студентите във висшето образование, които имат документирани увреждания (Евростат, 2024 г.), понасят различното въздействие. Забраната по член 5, параграф 1, буква е) за разпознаване на емоции в образователна среда вече премахва изцяло един клас модели от законния пазар; това, което остава, е по-широкият слой за наблюдение на изпити и прогнозиране на риска, който действа по раздел 3 от Приложение III като високорисков.

Инструментите за достъпност се намират от другата страна на същата граница. Управляваното от ИИ субтитриране, преобразуването на реч в текст за лекции, генерирането на алтернативен текст с ИИ и подпомогнатото от ИИ отстраняване на проблеми в документи сами по себе си не са употреби по Приложение III — те са услуги за достъпност. Но където образователна институция ги доставя, задълженията на Акта за ИИ за прозрачност и разкриване на информация (член 13, член 50) се наслагват върху съществуващото изискване на Директивата за достъпност на уебсайтовете за декларация за достъпност. Училище, което внедрява инструмент за субтитриране с ИИ, трябва да публикува какво инструментът може и не може да прави, включително известните му разлики в точността при реч с акцент, регионални диалекти и съдържание на жестов език.

Основни услуги — кредитен скоринг, медицински триаж, допустимост до помощи

Раздел 5 от Приложение III обхваща ИИ, използван за оценка на кредитни рейтинги или кредитоспособност, за оценка на риска при ценообразуване в животозастраховането и здравното застраховане, за оценка на допустимостта до основни обществени помощи и услуги и за разпределяне или установяване на приоритет при спешно реагиране. Всяко от тях се пресича с правото за уврежданията в различна точка. Моделите за кредитен скоринг, които използват волатилност на доходите или модели на разходи, свързани със здравеопазване, като характеристики, могат да кодират свързано с увреждане различно въздействие; ИИ за медицински триаж, който класира пациенти за лечение, може да възпроизведе същото пристрастие, коригирано спрямо качеството на живота, срещу което защитниците на хората с увреждания водят дела от две десетилетия; автоматизацията на допустимостта до помощи в контекста на социалното осигуряване — решението по SyRI в Нидерландия и делата в Обединеното кралство за алгоритмични решения по PIP и Universal Credit са съвременният канон — сега е категорично в раздел 5 от Приложение III, когато се използва от публични органи на ЕС.

Член 27 от Акта за ИИ добавя задължение за оценка на въздействието върху основните права от страната на внедрителя за високорисковите системи по Приложение III, използвани от публични органи и определени частни оператори. Оценката обхваща категориите физически лица, които е вероятно да бъдат засегнати, конкретните рискове от вреда, въведените мерки за човешки надзор и пътищата за обезщетение на засегнатите лица. Уврежданията не са назовани в член 27, но забраната за дискриминация по член 21 от Хартата на основните права — към която член 27 препраща — обхваща уврежданията изрично, а член 26 от Хартата признава правото на хората с увреждания на интеграция и участие. Оценката на въздействието е мястото, където въздействието върху уврежданията трябва да бъде преценено преди внедряването, а не като ретроспективен одит.

Надстройката от CRPD

Европейският съюз е страна по Конвенцията на ООН за правата на хората с увреждания в свое собствено качество — първият международен договор за правата на човека, по който ЕС се е присъединил като регионална организация за интеграция — и затова CRPD обвързва институциите на ЕС, включително при тълкуването им на Акта за ИИ. Член 9 от CRPD задължава страните да гарантират достъпа на хората с увреждания до информация и комуникации, включително информационни и комуникационни технологии, на равна основа с останалите. Член 5 ги задължава да забранят всякаква дискриминация на основание увреждане и да гарантират равна и ефективна правна защита.

Съображение 56 от Акта за ИИ изрично назовава CRPD като част от опората на регламента в основните права, а тълкувателните насоки на Службата по ИИ — публикувани през 2025 и 2026 г. под формата на документи с въпроси и отговори и делегирани актове на Комисията — многократно цитираха CRPD в контекста на задълженията за достъпност по замисъл по член 16 от Акта за ИИ (достъпност на информацията) и измерението на въздействието върху уврежданията на оценките на въздействието върху основните права по член 27. Практическата последица: когато орган за надзор на пазара одитира високорискова система по Приложение III за свързано с увреждане различно въздействие, той одитира спрямо стандартите на Акта за ИИ за управление на данните и управление на риска, тълкувани в светлината на ангажиментите на CRPD за недискриминация и достъпност. Доставчик, който твърди, че моделът му се представя „добре средно“, без да адресира производителността спрямо релевантни за уврежданията подгрупи, спори срещу собствената тълкувателна рамка на регламента.

Практически последици за доставчиците и внедрителите

За доставчиците на високорискови системи с ИИ и на модели на ИИ с общо предназначение архитектурата на съответствие през 2026 г. има четири носещи компонента. Първо, файлът за управление на данните, изискван по член 10 — структуриран запис на източниците на данни за обучение, анализ на представителността, идентифицирани отклонения, включително релевантните за уврежданията, и приложените стъпки за смекчаване. Второ, техническата документация по Приложение IV — проектни спецификации, системна архитектура, предназначение, известни ограничения, инструкции за внедрителя, показатели за производителност в демографските и свързаните с уврежданията подгрупи, където данните съществуват. Трето, системата за наблюдение след пускане на пазара по член 73 — регистриране на инциденти, канали за жалби, непрекъсната оценка на производителността, периодично повторно валидиране спрямо първоначалния план за управление на риска. Четвърто, където е приложимо, оценката на въздействието върху основните права по член 27 за внедрителите в публичния и квазипубличния сектор.

Ранните сигнали за правоприлагане от първите девет месеца на пълна приложимост (от август 2026 г. нататък) са ограничени, но насочено ясни. Службата по ИИ откри искания за информация срещу трима поименни доставчици на модели на ИИ с общо предназначение на основание прозрачност и резюме на авторското право. Националните органи за надзор на пазара в Нидерландия, Германия и Франция публикуваха ранни насоки относно ИИ в заетостта по раздел 4 от Приложение III, като и трите изрично посочват тестването за различно въздействие върху уврежданията като очакване за документиране. Все още не е издадена окончателна административна санкция по член 99 — кривата на правоприлагане по GDPR отне прибл. 18 месеца, за да произведе първите си значими глоби, а Актът за ИИ следва сравнима траектория. Сигналът към доставчиците е, че режимът на документиране е режимът: доставчик, който не може да покаже файла си по Приложение IV, работата си по управление на данните по член 10 и наблюдението си след пускане на пазара по член 73 при поискване, е от грешната страна на регламента, независимо дали вече е издадена глоба.

За общността за правата на хората с увреждания Актът за ИИ не заменя защитите срещу дискриминация по Директива 2000/78/ЕО, изискванията за достъпност по Европейския акт за достъпност или критериите за обществени поръчки по EN 301 549 — той стои върху тях и им дава архитектура за документиране и надзор, която съществуващите инструменти нямаха. Следващата вълна на правоприлагане, очаквана през 2027 и 2028 г., ще бъде там, където взаимодействието между процесуалните задължения на Акта за ИИ и съществуващата материална доктрина срещу дискриминация на хора с увреждания произведе съдебната практика, която определя как изглежда на практика смекчаването на отклоненията. Този наръчник е картата на терена; делата ще очертаят контурните линии.