《欧盟人工智能法案》是世界上第一部人工智能法规，已于 2024 年 7 月 12 日在欧盟官方公报上公布。

 

欧洲人工智能法案的目标

 

这项新法规旨在确保各行业人工智能技术的安全性和可靠性，提高透明度，并为未来投放欧盟市场的可信人工智能系统制定总体框架。它引入了基于风险的方法、对运营商施加的各自义务以及对未能满足要求的潜在处罚。

 

这项立法为何重要？

 

作为一个开创性的监管框架，《欧盟人工智能法案》开创了可能影响全球人工智能监管的先例。对于医疗器械公司来说，了解并遵守该法案对于在欧盟保持市场准入和竞争优势至关重要。

 

立法要点

 

《欧盟人工智能法案》引入了几项关键条款：

- 人工智能定义：该法对人工智能系统进行了广泛定义，虽然没有将其范围限制在某些技术或其应用上，但重点是确保全面覆盖。

 

- 人工智能能力（第 5 条）：人工智能系统提供商和运营商必须确保其员工和用户对人工智能及其部署的系统有足够的了解。这应考虑到他们的技术技能、经验、教育、培训以及人工智能的使用方式和对象。

 

- 高风险人工智能系统（第 6 条）：高风险人工智能系统，如用于关键基础设施、教育、就业和执法领域的系统，以及大量人工智能医疗器械，必须满足风险管理、数据治理、透明度和人工监督方面的严格要求。

 

- 基于风险的方法 + 风险管理 (第 9 条）：人工智能系统分为四个风险类别：不可接受的风险、高风险、有限风险和最低风险，每个类别都有具体的规定和要求。

 

- 高风险人工智能系统的基本权利影响评估（第27 条）：该法附件三第 5(b)和(c)点中提及的高风险人工智能系统的部署者，应评估使用此类系统可能对基本权利产生的影响。

 

- 数据管理（第 10 条）和记录保存（第 12 条）：保持系统数据、培训方法和操作流程的详细记录，以确保问责和可追溯性。此类人工智能系统使用的数据应考虑进一步遵守数据法规的要求，如，GDPR (EU) 2016/679 和(EU) 2018/1725以及Data Protection Law Enforcement Directive (EU) 2016/680。

 

- 透明度（第 13 条）：该法将要求运营商向最终用户提供明确的信息，让他们了解与此类人工智能系统互动的限制和风险。

 

- 人工监督（第 14 条）：允许人工干预和监督，确保人工智能的决定在必要时可以被审查和纠正。- 准确性、稳健性和网络安全（第 15 条）：高风险人工智能系统必须符合最先进的准确性、稳健性和网络安全要求。

 

- 上市后监测系统：建立市场监督框架以确保合规，包括建立国家监督机构和欧洲人工智能办公室。

 

- 由公告机构进行符合性评估：高风险人工智能系统将要求由经认可的公告机构进行符合性评估，类似于新立法框架内的其他立法，如欧盟 MDR/IVDR。此外，人工智能医疗器械的技术文件（第 11 条）预计将纳入欧盟人工智能法案附件 IV 中概述的欧盟法案技术文件要求。

 

"AI System"的定义

该法案将 "AI System"定义为 "means a machine-based system that is designed to operate with varying levels of autonomy and that may exhibit adaptiveness after deployment, and that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments."。

 

该定义源于经合组织（OECD）提供的定义，虽然它并没有将范围限制在某些技术或人工智能的应用上，但其目的是提供一个全面的覆盖范围，期望在未来会有更多尚未发明的算法和技术出现。基于风险的分类系统该法根据潜在风险对人工智能应用进行分类：

 

- 禁止的人工智能（第 5 条）：禁止的应用，如政府用于社会评分的人工智能系统，不允许投放市场，或只有在地方政府特别批准的情况下才能投放市场。

 

- 高风险人工智能（第 6 条）：关键领域（包括医疗保健）的人工智能系统，必须满足严格的要求，并按照《欧盟人工智能法案》或相关设备的行业法规进行符合性评估。(例如，人工智能医疗器械）- 有限风险人工智能：承担透明度相关义务的人工智能系统。

 

- 极小风险人工智能：风险极小或没有风险的系统，但须自愿遵守法规。

 

高风险人工智能应用实例

 

符合新法规中 "高风险人工智能"定义的设备包括已受其他行业法规监管的行业，以及其他特定行业法规尚未涵盖的设备。这些高风险应用必须经过严格的符合性评估，并遵守严格的数据管理和透明度要求。

 

例如，现有欧盟 MDR/ IVDR 所涵盖的医疗器械在遵守《欧盟人工智能法案》的必要合规性方面表现突出。例如，诊断工具、医疗决策支持系统、患者自动监测技术等人工智能医疗器械都是新人工智能法规的适用对象。

 

不受欧盟特定行业立法监管的设备也可能成为人工智能法案的对象，例如关键基础设施（管理电网、供水管网和运输系统的人工智能系统）和其他一些应用。

 

实施时间表

 

该法案计划分阶段实施，将于 2024 年 7 月 12 日在欧盟官方公报上公布后 20 天内执行，高风险人工智能系统的申请日期和执行日期将根据第 111 条和第 113 条推出：

 

- 2026 年 8 月 2 日：《欧盟人工智能法案》生效 24 个月后，未受其他部门立法监管的高风险人工智能系统应遵守该法。

 

- 2027 年 8 月 2 日：《欧盟人工智能法案》生效 36 个月后，受《欧盟人工智能法案》附件二所列部门立法监管的设备（如医疗器械）应遵守该法。(例如，医疗器械和 IVD）

 

- 2023 年 8 月 2 日 已投放市场或投入使用的人工智能系统以及已标注的通用人工智能模型应在 2030 年 8 月 2 日之前达到合规要求（第 111 条）。

 

市场准入

 

出口到欧盟市场并在欧盟市场上销售设备的医疗器械制造商必须证明其人工智能医疗器械符合《欧盟人工智能法案》，以保持欧盟市场的准入。不合规可能会导致严重的准入障碍，降低竞争优势和市场份额，或受到新法规的严重处罚。

 

虽然预计大多数受影响的器械都属于 "软件即医疗器械"（SaMD）类别，但作为任何设备组成部分的人工智能，只要符合高风险人工智能的定义，也同样是该法规的对象。

 

此外，与欧盟 MDR/IVDR 类似，《欧盟人工智能法案》也打算对软件和人工智能系统进行监管，只要其在监管范围内，则不论其位置如何。

 

欧盟 MDR/IVDR 与《欧盟人工智能法案》对医疗人工智能系统的分类 高风险人工智能

 

《欧盟人工智能法案》引入了高风险人工智能类别，该类别的定义独立于欧盟 MDR 和 IVDR 中概述的医疗器械分类，也无意对产品进行更高的分类。分类应单独进行，并遵循法规规定的相应合格评定途径。

 

合格评定

《欧盟人工智能法案》采用了新立法框架 (NLF)，因此概述了与欧盟 MDR/IVDR 相似的结构和方法，并概述了高风险人工智能医疗器械供应商（制造商）预期的合格评定程序。虽然此类器械的主要符合性评估将遵循欧盟 MDR/IVDR 下的特定行业程序，但医疗器械制造商必须保留详细文件，包括涉及人工智能特定方面的技术文件。制造商还需要保持警惕系统（例如向监管机构报告事故），并接受第三方公告机构的强制合格性评估和定期审核，以确保符合所有法规。

 

将高风险人工智能设备投放欧盟市场

 

将高风险人工智能医疗器械投放到欧盟市场需要满足额外的要求。医疗器械公司必须适应这些变化，确保所有产品符合必要的统一标准，并在器械上贴上 CE 标志。

 

产品生命周期考虑因素

 

根据《欧盟人工智能法案》，人工智能驱动的医疗器械的开发很快将以新的统一标准为指导，为最先进的实践设定基准。这些标准强调健全的数据管理、算法决策的透明度、人工监督以及对人工智能性能的持续监控。

 

由于严格的风险管理和软件生命周期标准，医疗器械制造商已经熟悉了基于风险的设计和开发方法。然而，现在他们需要将这些原则专门应用于人工智能，并尽早接受这些新标准。这一转变旨在确保人工智能驱动的医疗器械从一开始就是安全、可靠和透明的。

 

合规成本

 

适应《欧盟人工智能法案》将带来额外的合规成本，包括监管认证、网络安全、数据保护措施、额外审核和持续的人工智能系统监控。虽然预计这些将是现有欧盟 MDR/IVDR 符合性评估的延伸，但公告机构必须具备处理《欧盟人工智能法案》具体要求的能力。尽管增加了开支，但这些投资对于获得欧盟市场准入和保持竞争优势至关重要。

 

《欧盟欧洲人工智能法案》代表了人工智能技术监管格局的重大转变，对医疗器械行业的影响毋庸置疑。对于拥有人工智能医疗器械的公司来说，了解并遵守《欧盟人工智能法案》的适用要求对于保持和扩大其在欧盟的市场份额至关重要。通过主动适应这些变化，医疗器械制造商可以确保其产品符合最高的安全性和有效性标准，从而促进医疗保健行业的信任和创新。

 

来源：MDR小能手

关键词： 欧盟人工智能法案 医疗器械