图片描述:印刷版《欧盟人工智能法》文件上叠加透明的 ARIA 无障碍树,旁放一支钢笔——这是《人工智能法》与残障法律交汇的视觉标志。

阅读时长:12 分钟

《法规 (EU) 2024/1689》,通称《欧盟人工智能法》,于 2024 年 7 月 12 日在《官方公报》上发布,2024 年 8 月 1 日起生效,并于 2026 年 8 月 2 日达到其主要适用日期——即高风险及通用人工智能义务对整个单一市场内提供商和部署方具有约束力的时间节点。这是任何主要司法管辖区首部综合性横向人工智能法律,它构建于现行残障权利框架之上,而非取代后者:《欧洲无障碍法》《网络无障碍指令》、《就业平等指令》2000/78/EC,以及欧盟对联合国《残疾人权利公约》(CRPD)的批准。

在《人工智能法》与残障法律相撞的领域,两个条款承担了主要工作。第 16 条规定通用人工智能模型提供商的义务——这是 2026 年大多数面向消费者的 AI 产品所依托的基础模型层。第 73 条与第 8 条至第 15 条及附录 III 共同阅读,规定约束高风险 AI 系统提供商和部署方的要求。本文是对两条款在三个具体情境中如何与残障法律交汇的解读:就业中使用的 AI(简历筛选工具、自动视频面试评分)、教育中使用的 AI(在线监考、无障碍工具、学生风险建模),以及基本服务中使用的 AI(消费信贷评分、医疗分诊、公共福利资格决定)。本文还涵盖欧盟机构承诺所附加的 CRPD 叠加层,以及供应商现在应当生成的文档义务——附录 IV 技术文档、上市后监控、基本权利影响评估。

《人工智能法》是什么——以及它的结构

《人工智能法》是一部法规,而非指令:它在每个成员国直接适用,无需国家转化,其对提供商和部署方施加的义务在 27 个欧盟国家市场(加上欧洲经济区)中统一适用。其核心架构选择是风险分级框架,共分四级——禁止行为(第 5 条)、高风险 AI 系统(第 6 条至第 27 条及附录 III)、有限风险透明度义务(第 50 条)以及无监管的最低风险使用。在风险分级之上,另有一套独立制度——第 51 条至第 56 条——管辖通用人工智能模型,当模型跨越第 51(2) 条设定的系统性风险门槛时触发更严格的义务。

分阶段适用时间表至关重要,因为 2026 年阅读本文的提供商并非面对单一截止日期。第 5 条关于不可接受风险行为的禁止——公共机构的社会评分、公共场所实时远程生物特征识别(仅限于明确界定的执法用途除外)、工作场所和学校中的情绪识别——于生效后六个月即 2025 年 2 月 2 日开始适用。第 51 条至第 56 条通用人工智能义务于 2025 年 8 月 2 日开始适用。完整的高风险制度,包括第 73 条上市后监控义务,于 2026 年 8 月 2 日生效,同时对同属附录 I 部门法律(医疗器械、机械、玩具、车辆)所监管产品安全组件的高风险系统子集进一步延期至 2027 年 8 月 2 日

执法分权运作。由各成员国指定并列入 AI 办公室维护的公开登记册的国家市场监管机构,负责高风险 AI 的实地执法。AI 办公室依据第 88 条,在欧洲委员会 DG CNECT 内设立,对通用人工智能执法拥有专属管辖权。违反第 5 条禁止规定的最高行政罚款为 3500 万欧元或全球年营业额的 7%,违反大多数其他经营者义务(包括本文所涵盖的第 16 条和第 73 条义务)的罚款为 1500 万欧元或 3%,向当局提供不正确或误导性信息的罚款为 750 万欧元或 1%。

第 16 条——通用人工智能提供商的义务

第 16 条是基础模型层的核心条款。它适用于通用人工智能模型的提供商——根据第 3(63) 条定义,是指使用大规模自监督在大量数据上训练、展示出显著通用性、能够胜任执行各类不同任务的 AI 模型。驱动聊天机器人的大型语言模型、用于文件分析的多模态图文模型、日益主导无障碍工具的语音模型:这些都是《人工智能法》意义上的通用人工智能模型,其提供商须承担第 16 条规定的义务。

第 16 条义务分为三个模块。第一,技术文档:提供商必须准备并持续更新技术档案,内容涵盖模型的训练、测试和评估,包括高层次的训练数据来源、训练能耗、所用评估基准以及已知局限性。附录 XI 规定最低内容要求。第二,向下游部署方披露信息:提供商必须向将模型集成至自身系统的企业提供足够信息,包括模型能力、局限性、预期用途和已知风险,以便下游经营者能够履行其自身的《人工智能法》义务。第三,版权与内容溯源:提供商必须建立遵守欧盟版权法的政策,包括《指令 (EU) 2019/790》第 4(3) 条项下的文本和数据挖掘选择退出机制,并公布对训练数据语料库足够详细的摘要。

第 16 条的残障视角体现在两个方面。第一,附录 XI 第 1(2)(c) 节要求的局限性披露明确涵盖已知偏见和不公平性能差距——而与无障碍性相关的性能差距完全属于该要求的范畴。对构音障碍语音识别明显较差的语音识别模型,误识别轮椅使用者或使用辅助器具者的图像描述模型,在区域手语变体上失败的手语模型:每一种都是提供商必须向下游部署方披露的已知局限性。第二,满足第 51(2) 条系统性风险门槛(目前设定为训练算力超过 10^25 FLOP)的模型提供商,须承担额外的第 55 条义务,包括对抗性测试、事件报告、网络安全保障,以及针对系统性风险类别(包括基本权利影响)的模型评估——该法规明确将其交叉引用至《欧盟基本权利宪章》和 CRPD。

第 73 条——高风险 AI 系统与上市后制度

第 73 条位于第三章第三节,管辖已投放市场的高风险 AI 系统。它要求高风险 AI 的提供商建立上市后监控系统,与系统性质和所呈现风险相称,主动、系统地收集、记录和分析 AI 系统在整个生命周期内的性能数据。监控须持续评估对第 8 条至第 15 条所列要求的合规情况,相关文档须至少保存十年。

第 73 条必须与第 8 条至第 15 条的实质性要求结合阅读,因为上市后监控是随时间证明对这些要求合规的机制。第 9 条要求建立风险管理系统。第 10 条规范数据与数据治理——特别要求训练、验证和测试数据集应与预期目的相关、具有充分代表性、无误差且完整,并明确关注系统将被使用的”特定地理、情境、行为或功能环境”。第 11 条和附录 IV 要求技术文档;第 12 条要求自动事件日志;第 13 条要求对部署方的透明度和信息披露;第 14 条要求在系统设计中内置人类监督措施;第 15 条要求与预期目的相称的准确性、稳健性和网络安全。第 26 条随后在部署方一侧叠加义务——即实际将系统投入使用的经营者。

何为”高风险”由第 6 条和附录 III 规定。附录 III 列出八个使用案例类别——生物特征识别;关键基础设施;教育和职业培训;就业和工人管理;访问基本私人和公共服务;执法;移民、庇护和边境管控;司法和民主进程管理——并在每个类别中列举触发高风险分级的具体使用案例。附录 III 清单在概念上不详尽但在法律上具有约束力:用于所列目的之一的 AI 系统,无论提供商如何对外宣传,均因法规的运作而属于高风险。

第 16 条与第 73 条与残障法律的交汇

2026 年实际合规领域中,三个交汇点占据主导:就业 AI、教育 AI 和基本服务中使用的 AI。每一个都属于附录 III 高风险类别,每一个都承载着《人工智能法》现在使之具备操作性的现有欧盟残障歧视法律的直接义务。

就业——简历筛选、视频面试评分、生产力监控

附录 III 第 4 节涵盖用于招募、筛选、任务分配、绩效评估和终止决策的 AI 系统。将候选人与职位描述匹配排名的简历筛选工具、根据面部表情、语言模式和措辞对候选人答复评分的自动视频面试平台、根据按键或屏幕时间数据标记员工以供管理干预的生产力监控工具:这些都属于第 4 节下的附录 III 高风险。第 9 条的风险管理义务和第 10 条的数据治理义务,要求提供商在模型训练阶段识别并减轻不同群体差异影响风险。《就业平等指令》2000/78/EC 自 2003 年生效,已禁止在招募和就业中基于残障的直接和间接歧视;《人工智能法》现在要求支撑该禁止规定的技术机制,能够通过附录 IV 技术档案和第 73 条上市后监控接受审计。

偏见减轻义务是明确的。第 10(2)(g) 条要求提供商审查训练数据设计选择中”可能影响人身健康和安全、对基本权利产生负面影响或导致欧盟法律禁止的歧视的偏见”。一旦识别出与残障相关的差异影响——系统性惩罚有言语障碍候选人的视频面试模型、将有认知障碍或慢性疾病员工的工作模式错误分类的人力资源分析模型——第 10(2)(h) 条要求采取”适当措施来检测、预防和减轻”该影响。减轻工作必须在附录 IV 档案中记录,并通过第 73 条上市后监控系统持续评估。

教育——监考、无障碍工具、风险预测

附录 III 第 3 节涵盖用于决定教育机会、评估学习成果、评定适当教育水平以及在测试期间监控学生的 AI。在线监考系统的旗帜行为标注在前言中被明确点名。与残障法律的交汇在这里尤为尖锐:在神经典型基准行为上训练的监考模型,将系统性地过度标记患有 ADHD、抽动障碍或焦虑症的学生——而拥有在案残障记录的高等教育学生(Eurostat 2024 数据显示不足 15%)承担了不成比例的影响。第 5(1)(f) 条关于禁止在教育场所进行情绪识别的规定,已将一类模型从合法市场中移除;剩余的是更广泛的监考和风险预测层,以附录 III 第 3 节高风险模式运作。

无障碍工具处于同一边界的另一侧。AI 驱动的字幕、讲座语音转文字、AI alt 文字生成和 AI 辅助文件修复,本身并非附录 III 适用案例——它们是无障碍服务。但在教育机构采购这些工具时,《人工智能法》的透明度和信息披露义务(第 13 条、第 50 条)叠加于《网络无障碍指令》现有的无障碍声明要求之上。部署 AI 字幕工具的学校,必须公布该工具的能力和局限性,包括其在带口音语音、地区方言和手语内容方面的已知准确性差距。

基本服务——信用评分、医疗分诊、福利资格

附录 III 第 5 节涵盖用于评估信用评分或信用状况、对人寿和健康保险进行风险评估定价、评估基本公共福利和服务资格,以及在紧急响应中调度或确定优先级的 AI。这些情形各自在不同节点与残障法律交汇。使用收入波动或与医疗相关的支出模式作为特征的信用评分模型,可能编码与残障相关的差异影响;对患者进行治疗优先排序的医疗分诊 AI,可能复制残障权利倡导者抗争了二十年的生活质量调整偏见;社会保障语境中的福利资格自动化——荷兰 SyRI 裁决以及英国 PIP 和全民信贷算法决策案件是当代典型——当欧盟公共机构使用时,现已明确纳入附录 III 第 5 节。

《人工智能法》第 27 条为使用附录 III 高风险系统的公共机构和特定私营经营者在部署方一侧增加了基本权利影响评估义务。FRIA 涵盖可能受影响的自然人类别、具体伤害风险、已建立的人类监督措施以及受影响个人的救济途径。残障在第 27 条中未被点名,但第 27 条所交叉引用的《基本权利宪章》第 21 条关于禁止歧视的规定明确涵盖残障,《宪章》第 26 条承认残疾人融入和参与的权利。FRIA 是必须在部署前而非事后审计中评估残障影响的场合。

CRPD 叠加层

欧盟以区域一体化组织的身份,独立成为联合国《残疾人权利公约》的缔约方——这是欧盟加入的第一个国际人权条约——因此 CRPD 对欧盟机构具有约束力,包括在解释《人工智能法》时。CRPD 第 9 条要求缔约方确保残疾人在与他人平等的基础上,获得包括信息和通信技术在内的信息和通信。第 5 条要求禁止一切基于残障的歧视,并保障平等和有效的法律保护。

《人工智能法》前言第 56 段明确将 CRPD 列为该法规基本权利锚定的组成部分,AI 办公室的解释性指引——于 2025 至 2026 年间以问答文件和委员会委托法案形式发布——在《人工智能法》第 16 条(信息无障碍性)的无障碍设计义务语境,以及第 27 条基本权利影响评估的残障影响维度中,多次引用 CRPD。实际含义是:当市场监管机构针对附录 III 高风险系统的残障相关差异影响进行审计时,它以结合 CRPD 不歧视和无障碍承诺解释的《人工智能法》数据治理和风险管理标准为依据。一个在未处理残障相关子群体性能的情况下声称模型”平均表现良好”的提供商,是在反驳该法规自身的解释框架。

对供应商和部署方的实际影响

对于高风险 AI 系统和通用人工智能模型的提供商而言,2026 年的合规架构有四个核心支柱。第一,第 10 条要求的数据治理档案——对训练数据来源、代表性分析、已识别偏见(包括与残障相关的偏见)以及所采取减轻措施的结构化记录。第二,附录 IV 技术文档——设计规格、系统架构、预期目的、已知局限性、部署方说明、跨人口统计和残障子群体(在数据存在的情况下)的绩效指标。第三,第 73 条规定的上市后监控系统——事件日志、投诉渠道、持续绩效评估、针对原始风险管理计划的定期重新验证。第四,在适用情况下,公共和准公共部门部署方须履行第 27 条规定的基本权利影响评估

来自全面适用前九个月(2026 年 8 月起)的早期执法信号有限,但方向明确。AI 办公室已就三名具名通用人工智能模型提供商就透明度和版权摘要问题发起信息请求。荷兰、德国和法国的国家市场监管机构已发布附录 III 第 4 节就业 AI 早期指导文件,三份文件均明确将残障差异影响测试列为文档预期要求。目前尚未依据第 99 条作出任何最终行政处罚——GDPR 的执法曲线历时约 18 个月才产生首批重大罚款,《人工智能法》也在遵循可比轨迹。对供应商的信号是:文档制度就是制度——无法按要求出示附录 IV 档案、第 10 条数据治理工作和第 73 条上市后监控的提供商,无论是否已被处罚,都处于不合规一侧。

对残障权利界而言,《人工智能法》并不取代《指令》2000/78/EC 下的歧视保护、《欧洲无障碍法》下的无障碍要求或 EN 301 549 下的采购标准——它叠加于上述框架之上,为现有工具所缺乏的文档和监督架构提供支撑。预计于 2027 至 2028 年展开的下一波执法,将是《人工智能法》程序性义务与现有实质性残障歧视教义相互作用、产生界定偏见减轻在实践中究竟意味着什么的判例法的阶段。本文是地形图;案例将绘制等高线。