AI的快速发展与DeepSeek 的出现为制药行业带来了颠覆性变革和创新，AI正被逐步应用于药品研发、生产、监管等各个环节。AI不仅能够加速药物开发，还能提升药品的安全性和有效性；然而，AI模型的可靠度和可信度问题始终是行业关注的焦点。今天，我们将结合FDA最新发布的指南《Considerations for the Use of Artificial Intelligence to Support Regulatory Decision-Making for Drug and Biological Products Guidance for Industry and Other Interested Parties》，为大家解读如何通过基于风险的可信度评估框架，确保AI模型在制药行业中的合规应用。
图：指南目录
AI在制药行业的应用场景非常广泛，涵盖了从药物研发到生产、监管的各个环节。以下是一些典型的应用场景：
• 减少动物实验：通过AI模型预测药代动力学和毒理学数据，减少动物实验的数量；
• 临床数据分析：利用AI进行临床药代动力学和暴露-反应分析，优化临床试验设计；
• 大数据整合：整合疾病自然史、临床试验、社交媒体等多源数据，帮助识别疾病亚型和预测疾病进展；
• 生产质量控制：通过AI视觉分析系统，自动化检测药品生产中的关键质量属性（如药品填充体积）；
• 药物不良反应监测：利用AI识别和处理上市后药物的不良反应信息。
尽管AI的应用前景广阔，但其在制药行业中的使用也面临诸多挑战，如数据质量、模型透明性、输出准确性等问题。因此，如何确保AI模型的可信度，成为了制药企业和监管机构共同关注的核心问题。
FDA在其最新指南中，提出了一个7步可信度评估框架，帮助制药企业评估AI模型在特定使用情境（COU）中的可信度。以下是该框架的核心步骤：
• 定义问题：明确AI模型要解决的具体问题。例如，在临床试验中，AI模型可以用于预测患者是否需要住院监测；
• 定义使用情境：详细描述AI模型的使用场景，包括模型的角色和范围。例如，AI模型是用于辅助决策还是作为唯一决策依据；
• 评估模型风险：根据模型的影响和决策后果，评估模型的风险等级。高风险模型需要更严格的可信度评估；
• 制定可信度评估计划：根据模型风险，制定详细的评估计划，包括模型开发、数据质量、性能评估等；
• 执行计划：按照计划执行评估活动，确保模型的透明性和可追溯性；
• 记录评估结果：详细记录评估结果，并讨论与计划的偏差；
• 确定模型适用性：根据评估结果，判断AI模型是否适用于特定使用情境。
对于制药企业来说，如何将这一框架落地实施是关键。以下是一些具体的建议：
• 明确AI模型的应用场景：在引入AI模型之前，企业应明确模型的具体应用场景和目标。例如，是用于临床试验中的患者分层，还是用于生产中的质量控制。明确场景后，才能有针对性地制定评估计划；
• 确保数据质量：AI模型的可信度很大程度上依赖于数据的质量。企业应确保用于训练模型的数据具有代表性、准确性和完整性。同时，数据预处理和分割过程也应透明化；
• 提升模型透明性：企业应采用可解释的AI模型，并提供详细的模型开发文档，包括模型架构、特征选择过程、参数设置等。这不仅能提升模型的可信度，还能为监管机构提供清晰的审查依据；
• 制定模型监控和维护计划：AI模型的性能可能会随时间或环境变化而下降。企业应制定模型的监控和维护计划，定期评估模型性能，并及时更新模型以适应新的数据和环境；
• 与监管机构保持沟通：FDA建议企业在AI模型的开发和使用过程中，尽早与监管机构沟通，讨论模型风险和可信度评估计划。这不仅能帮助企业规避潜在风险，还能加速AI模型在监管中的合规应用。
以临床试验为例，某制药企业开发了一款AI模型，用于预测患者是否需要住院监测。通过FDA的可信度评估框架，企业明确了模型的使用情境（辅助决策），并评估了模型的风险（高风险）。随后，企业制定了详细的评估计划，包括数据质量检查、模型性能测试、可解释性分析等。最终，该AI模型成功通过了FDA的审查，并在临床试验中得到了广泛应用。
AI正在为制药行业带来前所未有的机遇，但其可信度问题不容忽视。通过FDA的基于风险的可信度评估框架，制药企业可以系统地评估AI模型的可信度，确保其在药品监管中的合规应用。明度智云持续关注AI技术在制药行业的最新动态，并基于长期服务制药行业的经验与创新能力，推出了明度「Atlas」智能体平台。
明度「Atlas」智能体平台在建立初期就参考了FDA该指南，基于风险的可信度评估框架，确保 AI 模型的输出结果在特定使用情境下的可信度。在实际应用中，明度「Atlas」严格遵循指南中的建议，对 AI 模型进行全面评估和监控。例如，在定义使用情境时，明度「Atlas」详细描述 AI 模型的角色和范围，以及如何使用模型输出，确保模型在特定情境下的适用性；在评估 AI 模型风险时，结合模型影响和决策后果进行综合评估，制定相应的可信度评估计划，并根据计划执行结果，判断 AI 模型是否适用于特定使用情境。同时，明度「Atlas」还注重 AI 模型的生命周期维护，持续监控模型性能，及时处理模型变更带来的影响，确保 AI 模型在药物开发和监管决策中的可靠性和有效性
明度「Atlas」是国内首个医药垂直领域智能体平台，已深度融合「DeepSeek」，为企业提供了更加智能化的运营方式。作为生物医药行业AI垂直应用的领跑者，明度已经率先实现了行业内生物医药场景的商业化落地和标杆案例。未来，明度将进一步推动AI技术与业务场景的深度融合，为生物医药企业提供最先进的数智化工具，赋能医药企业智能化转型，推动产业向更高效、更精准、更智能的方向发展。
如有兴趣请通过下方二维码/电话联系我们，为您分享更多明度行业案例、定制化设计以及AI浪潮下的数智化转型思路。
