by VendorVet (LX AI)
EU AI
Regulation (EU) 2024/1689 AI ;, unacceptable, high-risk, limited-risk, minimal-risk. Article 6
风险金字塔在实践中的工作原理
该法案是一部基于风险的法律。更重的用途带来更重的义务;禁止的做法没有合规路径。委员会的概述是在您深入研究文章之前的最短官方入口点(欧洲委员会 — AI 法案)。在供应商幻灯片与主要法律(欧盟条例 2024/1689)冲突时,请保持官方公报文本开放。
日期会变化。数字综合包在原始日历被证明对标准和指导不可行后,调整了几个高风险应用的日期。将任何日期表(包括我们的)视为快照,并在提交预算之前重新检查维护的时间表(EU AI 法案实施时间表)。"我们计划在 2026 年 8 月" 并不是一种辩护,如果绑定日期较晚 —— 而且这也不是冻结工作的理由。
提供者与部署者在一句话中
提供者在市场上放置系统或以其名称提供服务;部署者在其权限下使用它。许多企业代理堆栈同时混合了这两个角色。首先对系统进行分类,然后分配谁拥有哪项义务。混合这两个对话是团队如何 "完成" 检查清单,但没有人可以签署的原因。
不可接受的风险:完全禁止
第5条禁止公共机构进行社会评分、在公共可访问空间进行某些实时远程生物识别识别(具有狭窄的例外)以及在工作场所和学校中进行情绪识别等行为,这些限制从2025年2月2日开始生效。没有合规途径:如果您的系统属于此类,则不能在欧盟市场上销售。
产品团队有时会为被禁止的行为发明一个"有限模式"。这并不能创造一个合法的途径。如果预期的目的属于被禁止的行为,则应停止。如果一个功能可能被以可预见的滥用方式使用,则应记录滥用行为和阻止它的技术或合同控制措施——并在边界模糊时寻求法律顾问的建议。
检查清单 — 禁止使用筛查
- 审查预期用途声明以确定是否属于第5条类别 - 编写可预见的滥用列表(不仅仅是演示幸福路径) - 如果功能偏离到被禁止的领域,则制定关闭或停用计划 - 不得使用暗示"合规版本"的销售语言来描述被禁止的行为
高风险:文档和监控负担
根据第6条,一个系统通过两个途径被认为是高风险的:它是欧盟协调法律列出的附录I产品的安全组件,或者其预期用途属于附录III的领域之一,包括生物识别、关键基础设施、教育、就业、获取基本私人和公共服务(信用和保险是常见的触发器)、执法、移民和司法管理。独立的附录III高风险系统的全部高风险章节义务现在从2027年12月2日开始适用(数字综合修正案,原来的通用日期是2026年8月2日)。附录I产品嵌入的高风险系统从2028年8月2日开始适用。请在打印板块之前确认实时时间表。
当您处于高风险时,负担包括风险管理系统(第9条)、数据治理(第10条)、技术文档(第11条)、自动日志记录(第12条)、向部署者透明(第13条)、人工监督(第14条)和准确性/网络安全期望(第15条)。我们的姊妹文章介绍了团队最常错过的文档差距。
第6条测试——我们如何在研讨会中运行它
- 将预期用途写在一个简单的段落中。禁止使用营销形容词。 - 询问:这是附录I产品的安全组件吗?如果是,请遵循附录I路径和部门产品法规互动。 - 否则,逐一遍历附录III领域。招聘筛选、员工管理、信用度和教育评分是企业代理人磁铁。 - 记录决策、所有者和日期。当目的或部署者类别发生变化时重新审视。 - 如果答案是“可能”,则将其视为高风险,直到律师另有说明。模糊性不是无需采取任何行动的免费通行证。
等级 | 典型示例 | 核心职责形状 | 日历注意事项(验证实时) 不可接受 | 公共机构的社会评分;第5条中禁止的生物识别/情感用途 | 禁止——无合规路径 | 从2025年2月2日开始 高风险(附录III) | 招聘代理人、信用评分辅助工具、教育评估工具 | 文档、日志记录、监督、风险管理、合规路径 | 从2027年12月2日开始(综合修正案) 高风险(附录I) | 监管产品中的AI安全组件 | 同样的高风险章节+部门产品法规 | 从2028年8月2日开始(综合修正案) 有限风险 | 许多聊天机器人;具有透明度职责的合成媒体 |披露AI/标记合成内容(第50条系列) | 透明度仍然在2026年轨道上——重新检查时间表 最小风险 | 垃圾邮件过滤器;许多内部草稿辅助工具 | 无强制性的AI法规义务;仅自愿代码 | 仍然分类——不要假设
有限风险:透明度义务
聊天机器人、深度伪造生成器和情感识别在非高风险场景下通常属于此类。主要义务是透明度:用户必须知道他们正在与AI交互,合成内容必须在法规要求的地方进行标记。普通的有限风险聊天机器人无需进行合规评估。某些信息和透明度失败的处罚处于比禁止行为罚款更低的档位(第99条使用分级;请参阅法规文本以获取确切的上限)。
不要将“有限风险”视为“忽略日历。”即使高风险日期移动,几个透明度义务仍然保持在2026年的轨道上。已经上市的系统的水印和相关技术标记规则有自己的子日期在公共时间表上。在告诉客户“一切都推迟到2027年”之前,请阅读实施时间表页面。
有限风险诚实检查清单
- 用户界面披露交互对象是AI(如需) - 合成媒体标签计划用于生成音频/视频/图像 - 不声称“高风险认证”为有限风险聊天机器人 - 如果聊天机器人功能后来用于附录III决策,则单独说明
最低风险:基本上不受法案监管
垃圾邮件过滤器、许多推荐引擎和大多数内部草稿助手都属于这一类。该法案不施加强制性义务,尽管存在自愿行为准则。大多数企业AI代理在做出或影响重要决策时并不属于这一层次——这就是团队低估的差距,当他们指着写作助手并得出结论整个公司都"不在范围内"时
4、Art. 5和Rule ID 12345。
罚则的明确数字(仍需在第99条中核实)
第99条根据严重程度设定了上限:禁止行为最高可罚35 million欧元或全球年度营业额的7%(两者中较高者);高风险非遵守行为最高可罚15 million欧元或3%;某些不正确的信息/透明度失败最高可罚7.5 million欧元或1.5%。这些是最高限额,而不是自动发票。尽管如此,它们也是为什么分类是董事级话题,而不是星期五下午的杂务的原因。
常见的分类错误
- 将模型分类为使用。同一个基础模型可以为垃圾邮件过滤器和招聘排名器提供支持。使用决定了等级。 - 假设“仅内部使用”意味着最小风险。内部雇佣工具是经典的III号附录触发器。 - 将日历冻结在2026年8月2日,适用于所有高风险职责。Omnibus移动了III号附录/一号附录高风险应用日期;透明度职责并非全部随之移动。 - 让销售选择等级。销售希望“低风险”。工程和法律拥有地图。 - 跳过书面决定。如果您无法显示为什么不是高风险,审查员将假设您从未查看过。
决策标准:本季度要做什么
如果您正在构建或购买面向欧盟的AI(2026年):
6)的要求。请访问相关URL以获取更多信息。
什么这不是
本入门指南不是法律建议,不是符合性评估,也不是保证 VendorVet(或任何检查清单工具)能够保证正确分类或“绝不错过”高风险用途的承诺。我们不创造客户指标,也不声称您将“绝对避免”罚款。本文中的日期反映了数字综合法规对高风险应用的转变,如2026年中期采用后通常报告的那样;在绑定合规计划之前,请始终验证官方期刊和维护的实施时间表。
结束
首先映射等级。然后打开正确的检查清单。被禁止的做法必须停止;高风险系统需要收集证据;有限风险系统需要向用户说明真相;最低风险系统仍然需要进行诚实的盘点。当文档负担开始时,接着阅读技术文档检查清单 —— 大多数团队就是在那里发现了分类 alone 无法解决的差距。
参考资料
- 条例(EU)2024/1689(EUR-Lex) - 欧洲委员会 — 人工智能法案 - 欧盟人工智能法案 — 实施时间表 - NIST 人工智能风险管理框架 - 欧洲委员会 — 数字时代的欧洲
相关文章
高风险AI义务何时开始适用?
根据数字综合修正案,独立的附录III高风险义务从2027年12月2日开始适用(而不是原来的2026年8月2日)。附录I产品嵌入式高风险义务从2028年8月2日开始适用。禁止行为禁令更早生效,从2025年2月2日开始。始终在锁定日历之前重新检查实时实施时间表。
如何判断我的系统是否为高风险?
应用第6条测试:它是否是和谐产品的安全组件,或者其使用属于八个附录III领域之一?就业、信用和教育使用是企业代理常见的触发器。
禁止的AI行为的最大罚款是多少?
第99条将其设定为3500万欧元或全球年度营业额的7%,以较高者为准。高风险非遵守行为的上限较低,为1500万欧元或3%。
聊天机器人需要符合性评估吗?
不。大多数聊天机器人是低风险的,只需履行透明度义务,例如披露用户正在与AI交谈。符合性评估适用于高风险系统。
.