AI system的监管，包括其在医疗期中的使用，属于（欧盟）第2024/1689 号法规（又称《人工智能法》）的管辖范围。作为一项横向立法，《人工智能法》并非专门针对医疗器械行业，而是广泛适用于各行各业。不过，使用AI component的医疗器械制造商必须确保遵守该法规，因为医疗器械中的AI system必须符合其安全性、可信度和与基本权利相一致的要求。

 

1. AI作为医疗设器械的safety component

 

在这种情况下，人工智能被集成到器械中，并支持其功能，帮助管理或减轻患者面临的风险。

 

As per Article 3 (14), “‘safety component’ means a component of a product or of an AI system which fulfils a safety function for that product or AI system, or the failure or malfunctioning of which endangers the health and safety of persons or property;”

 

举例说明：在 CT 扫描仪中，人工智能可作为一个safety component，检测潜在的扫描错误或质量问题，这些问题可能会影响患者安全和诊断准确性。例如，在扫描过程中，人工智能系统会监控病人的移动伪影或造影剂分布不足。如果检测到这些问题，系统就会向操作员发出警报，以防止劣质图像造成误诊，并避免重复扫描造成不必要的辐射暴露。

 

监管：在这种情况下，AI system将被归类为医疗器械的safety component，并根据器械的用途受到MDR或IVDR的监管。在这种情况下，AI system必须符合医疗器械软件的标准，确保不会对人体造成伤害，并在诊断过程中提供可靠的帮助。

 

2. AI system作为独立产品

 

当AI system作为独立产品开发时，它的功能是独立的，以达到特定目的。它可能不是大型医疗器械的一部分，但如果其预期目的涉及诊断或治疗疾病，则仍可作为医疗器械进行监管。

 

举例说明：人工智能驱动的诊断软件旨在分析患者的医疗数据（如医学影像或临床记录），其本身可以是一个AI system。例如，该软件可以分析 CT 扫描图像，以检测肿瘤或骨折等异常情况，但其操作独立于 CT 扫描仪本身。在这种情况下，人工智能是医疗领域用于支持决策的产品，但并不是扫描设备本身的一部分。

 

监管：如果该AI system的主要目的是辅助诊断或治疗疾病，则将作为MDR 或 IVDR 下的医疗器械进行监管。它需要接受公告机构的合格评估。

 

high-risk AI systems的提供商必须：

 

-针对AI system的整个生命周期实施风险管理系统。

 

-使用相关、有代表性和准确的数据集进行培训、验证和测试，确保数据管理。

 

-准备技术文档，以证明合规性并向当局提供必要信息。

 

-设计系统，在整个生命周期内自动记录关键事件、风险和重大变更。

 

-提供明确的使用说明，确保下游部署人员(deployer)遵守规定。

 

-在人工智能系统中启用人工监督。

 

-确保系统达到适当的准确性、稳健性和网络安全标准。

 

-建立质量管理系统（QMS），确保持续合规。

 

 

来源：MDR小能手

关键词： 医疗器械 人工智能