解读欧盟GMP附录22征求意见稿：人工智能在药品制造中的应用-附文件下载（双语）

🔍近期，人工智能（AI）正式“入编”欧盟GMP指南！ 欧盟引入了全新附录22，为药品及活性物质制造过程中AI的应用设定了明确监管标准。该附录主要关注通过机器学习（ML）实现功能的模型在关键GMP流程中的合规应用。本文解读附录22核心内容，并探讨其对制药企业的影响。

---

📌 附录22的适用范围

附录22适用于在药品和活性物质制造中使用的所有计算机化系统，特别是嵌入AI模型、且直接影响患者安全、产品质量或数据完整性的关键GMP应用。

关键限定条件包括：

• ✅ 仅限静态模型（Static Models）
  禁止使用动态学习型AI（如持续训练的模型），因其不可预测性不符合GMP合规要求。
• ✅ 必须具备确定性输出（Deterministic Output）
  同样输入，必须输出同样结果。生成式AI、大语言模型（LLM）因其概率性行为被排除在关键应用之外。
• ✅ 适用于机器学习模型（ML）
  包括由多个子模型组成的系统，用于自动执行GMP流程中具体任务。

📢 总结一句话：“在GMP关键流程中，只能使用可控、可解释、可预测的AI。”

---

🧭 三大核心原则

1. 👥 跨部门协作
   工艺专家（SME）、质量保证（QA）、IT、数据科学家等需协同开展算法选择、训练、验证、测试和部署工作。
2. 🗂 全过程文档记录
   所有活动均需可追溯，包括供应商提供的模型，确保审计合规。
3. ⚠ 基于风险的质量管理
   所有活动需评估其对患者安全、产品质量和数据完整性的影响，决定验证深度。

---

🧪 AI实施的关键要求

1️⃣ 明确的预期用途

• 需详细描述模型辅助或自动化的任务、所用输入数据类型及其变异性。
• SME需审核并批准该说明，作为验收测试的基础。

2️⃣ 高质量且独立的测试数据

• 测试集必须覆盖所有场景（常见+极端），并由多个专家校对标注，确保准确。
• 不得与训练数据重合，并记录数据来源、使用次数及版本。
• ❌ 禁止使用生成式AI生成测试数据，除非有充分理由。

3️⃣ 模型可解释性（Explainability）

• 使用SHAP、LIME等技术解释预测依据，确保模型基于合理特征决策。
• 测试阶段应记录影响分类结果的主要特征，并提交审查。

4️⃣ 置信度机制（Confidence）

• 系统应记录每次预测的置信度评分。
• 设置最小置信度阈值，低于时应标记为“未决”，避免误判。

5️⃣ 运行阶段控制

• ✅ 模型及其系统在部署前必须纳入变更控制、配置管理。
• 🔍 需定期监测模型性能，评估环境变化（如光照）是否影响输出。
• 📊 定期分析输入数据是否出现“漂移”，超出模型样本空间要报警。
• 👁 人工审查机制适用人机协同流程，必要时逐条复核模型输出。

---

🏭 对制药制造商的影响

项目	影响
🤖 生成式AI受限	LLM、ChatGPT类AI不可用于关键GMP任务，只能用于文档初稿、辅助建议等非关键用途，且需人工复核。
🧪 测试和验证要求更高	所有模型必须严格测试，并提供完整文档与追溯记录。
🧠 需跨学科团队配合	企业需加强数据科学与GMP领域专家的协同。
🔎 可解释性是底线	不可接受“黑盒”模型，必须证明其合理性与合规性。

---

✅ 企业落地AI的“五大注意事项”

1️⃣ 模型不能“自学成精”
禁用动态学习。上线模型必须冻结参数，防止训练期间以外的自我更新。

2️⃣ 模型输出必须稳定、可解释
保证一致性和可追溯性。推荐使用 SHAP、LIME 工具提高透明度。

3️⃣ 测试数据必须真实全面
不可“造假”数据。测试集应涵盖所有异常场景，数据与训练集完全隔离。

4️⃣ 性能不得低于人工
替代人类的模型，必须在性能上至少与原流程相当，且有数据支持。

5️⃣ 模型必须纳入GMP变更控制体系
所有变更需记录、评估是否需重新验证，不能绕过合规流程。

---

🔚 结语：让AI在GMP中“可信落地”的指南

欧盟GMP附录22为制药企业应用AI指明了方向，也划清了监管红线。它鼓励企业探索AI带来的效率与智能化，但前提是：透明、合规、可控、可解释。

📣 制造商如欲引入AI，必须建立覆盖模型全生命周期的验证与监管体系。

这不只是IT项目，而是质量管理体系（QMS）的一部分。

下载地址：https://pan.quark.cn/s/7853ffc5a8da