摘  要  Abstract

 

人工智能在医药产业中的应用已日益普及和深化，许多国家和地区药品监管机构均面临如何在监管活动中使用人工智能技术以及如何监管人工智能产品的双重挑战。本文概述了人工智能在医药产业中的应用现况，总结了美国食品药品监督管理局的有关实践，为在我国药品监管中合理使用人工智能提出了建议。

 

As the application of artificial intelligence (AI) in pharmaceutical industry becomes increasingly widespread and deepens, drug regulatory authorities around the world are facing dual challenges: how to use AI technologies in regulatory activities and how to regulate AI products. This article briefly summarizes the current status of AI applications in the medical and pharmaceutical industries, and summarizes relevant practices of the U.S. Food and Drug Administration, providing suggestions for the reasonable use of AI in drug regulation in China.

 

关键词Key words 

 

人工智能；机器学习；药品研发；药品监管；医药产业

 

artificial intelligence; machine learning; drug development; drug regulation; pharmaceutical industry

 

根据世界卫生组织（WHO）的定义， 人工智能（artificial intelligence，AI）是计算机科学、统计学和工程学的一个分支，使用算法或者模型来执行任务，并展示学习、决策和预测等行为[1]。近年来， 机器学习（machine learning，ML）、深度学习（deep learning，DL）、自然语言处理（natural language processing，NLP）、计算机视觉（computer vision，CV） 等AI 相关技术迅猛发展，对人类社会生活产生了深刻影响，为众多产业带来了冲击。本文概述了AI 在医药产业中的应用现况及国外药品监管机构的有关实践，以期为我国相关工作的开展提供参考。

 

一、AI 发展简史

 

1956 年， 美国达特茅斯学院举行首次人工智能研讨会，被认为是AI 诞生的标志。但受制于当时计算机等技术尚不成熟以及缺乏数据积累，此后数十年间AI的发展较为缓慢。直到1997 年，计算机“深蓝”战胜国际象棋冠军，AI 才引起全世界的关注。2016 年，人工智能系统AlphaGo 战胜世界围棋冠军，进一步展示了AI 的强大应用前景。此后，AI 进入加速发展阶段，技术日新月异，影响不断扩大。2022 年ChatGPT 的推出，2024 年Sora 的发布，均举世瞩目。

 

二、AI 在医药产业的应用

 

（一）医学界

 

医学诊断是AI 在医药产业的核心应用场景。目前，AI 已深入到包括放射、超声、病理等多个辅助诊断领域，并已有基于DL 等技术建立的医学专家系统（expert system）用于辅助临床医学诊断。《人工智能医疗器械产业发展白皮书（2023 年）》提出，智能辅助诊断产品在AI 医疗器械中技术最成熟、应用最广泛，约占我国目前已获批产品的80%，当前已覆盖了眼、肺、骨、心血管、乳腺、脑、消化道、宫颈、肝脏等多个部位[2]。

 

医疗机器人是AI 在医学领域的另一重要应用。医疗机器人可分为手术机器人、康复机器人、辅助机器人和医疗服务机器人四大类，其中手术机器人应用较多、发展较快[3]。2021 年12 月，工业和信息化部等十部委联合发布《“十四五”医疗装备产业发展规划》，将腔镜手术机器人、骨科手术机器人、神经外科手术机器人、口腔数字化种植机器人和眼科手术机器人等列入我国“重点医疗装备供给能力提升行动”[4]。

 

医学写作是AI 在医学领域的一个新兴应用场景，早期主要表现为使用智能语音识别等技术辅助病历撰写。ChatGPT 发布以后，各种聊天机器人极大推进并扩展了AI 在医学写作中的应用。2023 年，《新英格兰医学杂志》（NEJM）发布了一份特别报告，指出撰写病历、解答试题、在线问诊是GPT-4 等生成式AI 在医学中的3 个潜在应用场景[5]。

 

此外， 目前AI 还广泛应用于医学教育以及临床研究。鉴于AI 医学应用的不断扩展，NEJM于2023 年12 月出版了最新子刊NEJM AI，专门刊发与AI 有关的医学研究和述评[6]。

 

（二）工业界

 

1964 年，定量构效关系建模领域的建立被视为AI 应用于药物研发的标志[7]。截至目前，AI 几乎覆盖了从靶点发现、药物设计、药物筛选、临床试验、生产制造到上市后监测的全流程。

 

在传统的药物研发早期，寻找适宜靶点、筛选先导化合物是极其耗时耗力的环节。得益于大数据的积累与AI 的学习与分析能力，越来越多的制药企业开始使用AI 技术识别靶点和筛选化合物，预测人体对药物的吸收、分布、代谢和排泄，以及药物对疾病的疗效，以期缩短研发周期、提高成功率。全球首款AI 设计的药物为英矽智能（Insilico Medicine）公司的INS018_055，其从靶点发现到成为候选药物用时约18 个月，特发性肺纤维化适应症已完成Ⅰ期临床试验[8]。此外，借助AI 的靶点筛选，还可以对已有药物进行重新定位，探索新的治疗领域。

 

临床试验是药物研发中至关重要的环节，也是AI 深度参与的核心步骤之一。AI 在临床试验中可发挥以下6 个方面作用：①基于药物结构、目标疾病和患者入排标准等多维度数据，预测临床试验的成功率，高效整合已有的临床试验和文献信息，优化临床试验设计。②基于对已完成临床试验的数据分析，评估和调整受试者入排标准；基于对现有患者数据库的分析，筛选候选受试者，从而提高患者招募效率，并可以招募到既往被排除在临床试验之外的合格受试者。③分析受试者的历史数据、参与度、健康状况以及其他相关因素， 识别可能有退出风险的受试者并早期干预，降低退出率。④使用智能手机应用或可穿戴设备，远程监控受试者用药情况，提高依从性。⑤使用聊天机器人与受试者进行实时互动， 提高受试者参与度及体验。⑥ 临床试验数据分析和管理[9]。鉴于AI 在临床试验设计和实施中的普遍使用，2020 年，《临床试验研究方案报告规范指南》（Standard ProtocolItems: Recommendations for Interventional Trials，SPIRIT）工作组与《临床试验报告规范》（Consolidated Standards of Reporting Trials，CONSORT）工作组先后发布了《人工智能干预性临床试验研究方案报告规范指南》（SPIRIT-AI），以及《人工智能干预性临床试验报告规范》（CONSORT-AI）， 在经典的SPIRIT 声明和CONSORT 声明基础上扩展了AI 相关条目[10]。

 

药品生产制造环节AI 的参与度也正日益提高。2021 年， 德国星德科（Syntegon） 公司在自动化检查系统中引入了首套在药品生产线中通过验证的AI 目检系统。该系统配备了利用DL 算法的AI 应用程序，能够进一步提高检测率，减少在难以检测的产品中的误剔除次数，据称在注射器检查机上可以将颗粒检测率提高70%，同时将错误检测率降低60%[11]。可以预期，随着药品制造从间歇制造向连续制造和智能制造转变，AI 在药品生产制造中将发挥越来越大的作用。

 

药物警戒是药品全生命周期的重要环节，除临床试验期间的安全性报告以外，在临床试验期间无法发现的安全性风险，需要在药品上市后的真实世界中识别和评估。但长期以来，上市后监测受报告数量大、报告质量欠佳的影响，安全性信号的检测效率低下。2019 年， 辉瑞（Pfizer）公司研究团队发表了使用AI 技术与机器处理程序实现不良事件报告自动管理的试点研究，结果显示AI 在不良事件数据提取和报告评估方面均具有可行性[12]。目前，越来越多的企业和监管机构开始探索AI 在临床试验期间以及上市后药物警戒中的应用[13-14]，推动药物警戒成为药品全生命周期中AI 运用成熟度较高的环节。

 

三、国外药品监管机构的AI 实践

 

与医学界和工业界相比，许多国家和地区药品监管机构对AI的态度较为谨慎。本文以美国为例，主要介绍美国食品药品监督管理局（FDA）的有关实践。

 

美国是AI 的发源地， 也是AI 制药的重要市场。据统计，截至2022 年， 全球已有700 多家AI 辅助药物研发企业，其中54.4% 分布在美国[15]。2024 年3 月15 日，美国FDA 现任局长Robert M. Califf 博士撰文总结了自1995 年以来，美国FDA 已收到300 多份含有AI 内容的药品和生物制品申请、700 多份AI 设备申请，申请内容涵盖药物发现和重新利用、临床试验设计、剂量优化、临床终点及生物标志物评估以及上市后监测，美国FDA负责药品、生物制品、医疗器械及组合产品审评的中心或办公室均参与其中[16]。

 

美国FDA 面临的AI 挑战可分为两类：一是如何在监管活动中运用AI 技术；二是如何监管AI 产品。

 

（一）美国FDA 监管活动中的AI 应用

 

美国FDA 工作人员曾基于已收到的人工智能/ 机器学习（AI/ML） 相关申请， 提出AI/ML 在药品审评中的可能应用场景包括：构建定量药理学模型、预测药物毒性、不良反应报告分析与信号检测、预测治疗反应以及预测研发活动[17]。上述场景中，已发布成果的主要有以下4 种。

 

研发活动的预测模型。2019年，美国FDA 药品评价与研究中心（Center for Drug Evaluationand Research，CDER）的仿制药办公室、政策研究办公室联合发表文章，介绍使用药品、监管以及药物经济学信息，借助ML和传统的Cox 比例风险回归模型预测首个新化学实体的简化新药申请（ANDA）的申请时间。结果显示，ML 的预测性能优于传统Cox 模型，使用ML 预测模型可以预测研发活动及申请时间，为审评资源分配、相关规划指南制订和发布等工作提供决策依据[18]。

 

上市后监测的可视化信息分析平台。2020 年， 美国CDER监测与流行病学办公室联合科研机构发表文章，介绍用于上市后监测辅助决策的可视化信息分析平台InfoViP。该平台采用NLP及ML 技术，处理美国FDA 收到的大量上市后个例报告，从报告的文本信息中提取与安全性评价相关的内容，识别可能的重复报告，并对报告质量进行分类，最终将上述信息以可视化的形式展现给审评人员，以辅助评价[19]。

 

监管文档中的自由文本处理。2023 年， 美国FDA 国家毒理学研究中心生物信息学和生物统计部发表文章，以药品说明书为例，介绍如何利用大型语言模型（large language model，LLM）提取监管文档中的自由文本信息并将其转化为标准格式，从而提高信息检索的效率[20]。鉴于该项工作的重要性，美国FDA 国家毒理学研究中心发起了BERTox计划，旨在使用LLM（如BERT和GPT 等）处理监管文档和公共文献，以提高效率和准确性[21]。

 

替代动物实验的算法模型。2023 年， 美国FDA 国家毒理学研究中心与有关企业及科研机构联合发表文章， 介绍使用生成式对抗网络（generative adversarial network）开发的模型AnimalGAN。该模型基于对传统动物实验数据的学习，可以建立实验动物中药物暴露与临床病理学指标的关系，从而模拟及替代动物实验[22]。

 

（二）美国FDA 对AI 产品的监管考虑

 

对于如何监管AI 产品， 目前包括美国FDA 在内的许多监管机构尚未达成定论。2023 年底，2017~2019 年期间担任美国FDA 局长的Scott Gottlieb 博士撰文总结了以下3 点美国FDA 既往对颠覆性医疗技术（disruptive medical technologies） 的监管经验，为AI产品的监管提供参考[23]。

 

从成熟的监管路径开始。Scott Gottlieb 博士认为， 美国FDA 已经建立的多条成熟监管路径几乎适用于所有新技术产品。与从头建立新的监管路径相比，充分利用成熟监管路径，可以使新技术产品加快上市。企业可以从产品在真实世界的使用中获得反馈，扩大新技术的应用范围；监管机构也可以根据实践经验，从中获得调整监管策略的机会。对此，他以一款智能手表心脏监测配件的审评为例。美国FDA 在认可了企业对于产品准确性和可靠性的验证工作后，将监管重点从纯粹基于产品的角度，转向了同时考虑制造商产品验证的角度，由此简化了监管流程、鼓励了产品创新。该配件于2018 年首次获批时，仅获批用于健康个体的心率异常监测，2022 年扩大到可以用于心脏病患者的心率监测。

 

采取基于风险的监管方式。Scott Gottlieb 博士认为， 当监管机构面对一个新的领域，首次主动采取监管措施时，要进行风险排序，将低风险活动暂时剔除在外，聚焦于对高风险干预的监管。对此，他举的例子为自体干细胞疗法。该疗法在美国发展多年，已经形成了庞大产业，曾有观点认为自体干细胞来自于人体、回输于人体，不应受美国FDA 的监管。直到2017 年，美国FDA认识到在此领域缺乏产品开发、验证和供应的公认标准，不但增加了患者的风险，也阻碍了产品成熟。2018 年，美国FDA 在综合自身资源以及已有的临床实践后，决定对在低风险人群中使用来源于脂肪组织的自体干细胞美容手术，以及在整形外科中使用自体富血小板血浆（同源使用）行使自由裁量权（即只要遵照美国FDA 的有关要求，这类产品在美国的使用不需要经过美国FDA事先审批）。

 

充分发挥现有权威标准在新技术评估中的作用。在此方面，Scott Gottlieb 博士举的例子为下一代基因测序技术（next generation sequencing，NGS）。2018 年， 美国FDA 允许开发商将NGS 产品的测试结果与美国FDA 认可的公共数据库［如美国国立卫生研究院的临床基因组资源中心（ClinGen）］进行验证，从而为新产品的上市申请提供了一条具有可及性的有效途径。

 

Scott Gottlieb 博士总结，为了安全、有效地运用新的医学技术，必须采取富有创造性的监管政策，其创新程度应与新技术给医生和患者新增的获益程度相匹配[23]。

 

（三）美国FDA 发布的相关工作计划

 

近年来，随着对AI 产品监管经验的积累，美国FDA 开始逐步总结并发布相关工作计划。

 

在医疗器械领域，2021 年，美国FDA 发布首份《基于人工智能/ 机器学习的医疗器械软件的行动计划》［Artificial Intelligence/Machine Learning (AI/ML)-Based Software as a Medical Device(SaMD) Action Plan］， 阐述了对AI/ML 医疗器械软件的5 点监管计划，包括：①为医疗器械软件制订监管框架；②建立机器学习质量管理规范（Good Machine Learning Practices，GMLP）；③促进以患者为中心的研发，提高透明度；④开展有关算法稳健性和偏倚的监管科学研究；⑤推动真实世界性能（real-world performance）评估监测试点工作[24]。同年，美国FDA 与加拿大卫生部、英国药品和健康产品管理局（MHRA）共同发布了医疗器械研发领域GMLP 的指导原则[25]。

 

在药品领域，2023 年，美国FDA 先后发布了《药品生产中的人工智能》（Artificial Intelligencein Drug Manufacturing）以及《在药品和生物制品研发中的人工智能和机器学习》（Using Artificial Intelligence & Machine Learningin the Development of Drug &Biological Products）两份讨论文件，总结了AI/ML 在药品生产和研发中的应用现况和前景，提出了可能的风险以及解决方法[26-27]。在后一份文件中，美国FDA 肯定了AI/ML 可以加速药品研发、提高临床试验的安全性和效率，同时指出AI/ML 可能会放大原数据集中的错误和偏倚，并且由于AI/ML 的机制复杂而缺乏透明度，因此美国FDA 将围绕以下3 个方面考虑进一步的监管：①以人为主导，建立负责的、透明的AI/ML治理；②注重数据的质量、可信度以及代表性；③关注模型的建立、性能、监测以及验证[27]。

 

截至目前， 美国FDA 关于AI 监管考虑的最新文件为2024年3 月15 日发布的《人工智能与医疗产品：CBER、CDER、CDRH、OCP 的协同行动》（Artificial Intelligence & MedicalProducts: How CBER, CDER,CDRH, and OCP are Working Together）[28]。在这份报告中，美国FDA 提出了医疗产品全生命周期中AI 的开发和使用的4个重点关注领域：①建立合作，保护公众健康；②鼓励创新，推动监管进步；③推动标准、指南、最佳实践以及工具的建立和协调；④支持开展有关AI 性能评估及监测的研究。该份报告还提及，美国FDA 正在制订包括AI医疗器械软件功能的预定义变更控制计划的上市申报建议终稿、AI 医疗器械软件功能的全生命周期管理考虑及上市前申报建议草案、使用AI 技术支持药品及生物制品的监管决策考虑草案等相关指南。

 

（四）WHO 及其他监管机构的实践

 

除美国FDA 以外，WHO等国际组织以及欧洲药品管理局（EMA）、英国MHRA 等监管机构均对AI 给予了高度关注。2021 年，WHO 发布首份《卫生领域人工智能的伦理和治理指南》（Ethics and Governance of Artificial Intelligence for Health），提出AI 治理的6 项原则，即：保护人类自主权，促进人类福祉、安全和公共利益，确保透明度、可解释性和可理解性，培养责任感、建立问责制，确保包容性和公平，发展具有响应性和可持续性的AI[29]。2023 年7 月，EMA发布题为《药品生命周期中人工智能使用情况》（Reflection Paperon the Use of Artificial Intelligencein the Lifecycle of Medicines） 的思考性文件，提出合理运用AI/ML 工具可有效支持药品全生命周期的数据获取、转化、分析和解读，关键在于申请人和持有人应确保其使用的所有算法、模型、数据集和数据处理流程与用途相符，并且符合GxP 标准和EMA 现有指南的伦理、技术、科学和监管要求，这些要求在某些方面可能比数据科学领域更为严格[30]。2023 年10 月，英国MHRA 宣布计划推出AI 监管沙盒（AI-Airlock）， 为AI 开发者提供一个在监管机构监控下的虚拟区域，便于其开发、测试和验证产品[31]。同月，WHO 发布《卫生领域人工智能的监管考虑》（Regulatory Considerations on Artificial Intelligence for Health），提出了6 个重点考虑议题，包括：文档管理与透明度，风险管理与AI 系统开发的生命周期方法，预期用途及分析和临床验证，数据质量、隐私与保护，参与和合作[1]。

 

四、对在我国药品监管中使用AI 的思考

 

我国是AI 的研发大国。2017 年，国务院在《新一代人工智能发展规划》中指出：“基于人工智能开展大规模基因组识别、蛋白组学、代谢组学等研究和新药研发，推进医药监管智能化”[32]。目前，我国在医药产业和药品监管领域较为系统的AI 应用纲领性文件仍有待形成。与美国FDA 类似，我国的药品监管部门同样面临如何在监管活动中使用AI 以及如何监管AI 产品的双重挑战。对于后者，鉴于AI 辅助新药研发在我国尚处于起步阶段，有待在后续工作中持续积累经验。笔者就在我国药品监管中合理使用AI 技术提出以下5 点思考。

 

（一）明确目的，系统规划

 

在监管活动中使用AI 的根本目的是提升监管能力，使之与AI带来的技术创新和行业进展相匹配。为了实现这一根本目的，建议一方面积极与行业开展对话，深入了解行业需求；另一方面系统梳理和总结现有监管活动，对应行业需求，寻找和发现监管活动中有待提升的环节并分析问题原因。在此基础之上，形成问题清单，借鉴国际经验，明确什么样的AI 技术、可以发挥何等作用、能够解决哪些问题，从而形成AI辅助智能监管的系统规划，指导今后一段时间的相关工作。

 

（二）搭建平台，群策群力

 

医药行业有其特殊发展规律，我国药品监管基于自身国情，难以简单照搬其他行业或其他国家和地区的经验。建议搭建包括信息与计算机科学、管理学、生物医药学等多学科在内，涵盖产、学、研、监管四方的协作平台，汇集多方力量，建立专家智库，切实结合国情，为在我国药品监管中合理使用AI 出谋划策。

 

（三）数据为先，夯实基础

 

数据质量是WHO、美国FDA 均强调的AI 监管重点。无论使用何种技术，AI 的基础都是数据，输入数据的质量决定了AI的产出质量。由于AI 算法通常在训练数据集上进行训练，在不同的数据集上进行验证，因此，训练数据集和验证数据集的质量直接决定了AI 产出的质量。对数据质量的考虑包括数据集的管理、数据的一致性、数据集的合理选择和维护、数据的可用性以及数据的完整性[1]。建议全面梳理和总结我国在药品监管中积累的各项数据（包括申请信息、审评过程信息、审评结论、指导原则等），在充分保障数据安全的前提下，建立我国药品监管活动大数据集，从中选择适宜的、有代表性的AI训练数据集和验证数据集，从而为AI 的合理、安全应用奠定坚实的数据基础。

 

（四）循序渐进，以点带面

 

鉴于AI 相关技术正在不断发展和迭代，建议优先考虑使用NLP 等较为成熟的技术，在药物警戒等已有较多应用经验的领域开发AI 辅助监管工具，以试点的形式率先运用到监管活动中，在实际工作中探索和总结经验，为后续更多应用奠定基础。

 

此外，我国正处于持续深化药品审评审批制度改革的进程中。随着《国务院关于改革药品医疗器械审评审批制度的意见》《关于深化审评审批制度改革鼓励药品医疗器械创新的意见》等重要文件的发布，我国药品审评审批不断提速，社会各界对加快审评审批的期望持续存在。但同时需要看到，监管部门长期存在人力不足、资源有限、超负荷运转的痛点和难点。建议借鉴美国FDA 使用AI 预测申报活动、处理监管文档自由文本等的经验，构建AI 辅助审评工具，合理分配审评力量，减轻审评工作人员的简单重复性工作负担，从而优化审评资源配置、提升审评工作效率。

 

（五）防控风险，依法依规

 

AI 是一把双刃剑，在带来重大革新的同时，也带来巨大的数字安全隐忧。2024 年3 月13 日，欧洲议会通过并批准了全球首部针对AI 的监管法案——欧盟《人工智能法案》。可以预见，随着该法案的颁布，AI 监管在许多国家和地区均将步入规范化、法制化。虽然我国尚未出台专门的AI 监管法律，但AI 安全已经引起了党中央的高度重视。2023 年4 月28日召开的中共中央政治局会议指出：“要重视通用人工智能发展，营造创新生态，重视防范风险”[33]。2023 年7 月24 日，中共中央政治局会议再次提出要“促进人工智能安全发展”[34]。药品监管事关人民群众的身体健康和生命安全，也事关经济发展与社会和谐稳定，在监管活动中引入AI 必须全程高度重视风险防控，依法依规稳步推进有关工作。

 

总体而言，面对AI 的飞速进步，我国药品监管部门有必要主动与各方加深、加快协作，共同探讨和建立符合我国国情的医药产业及药品监管AI 应用规则，秉承合理运用与防范风险相结合的原则，最大限度地发挥AI 的技术优势，防范及降低潜在的风险，以把握和迎接AI 带来的机遇和挑战，促进产业升级、提升监管能力，更好地为人民群众的健康保驾护航。

来源：中国食品药品监管杂志

关键词： 人工智能 药品监管