AI技术的进步正在改变医疗服务范式和健康理念。然而，目前FDA批准的AI软件或AI算法作为医疗设备，近乎一半没有经过真实环境的患者数据培训。这不仅暴露了AI临床应用的潜在风险，也挑战FDA授权和批准医疗级AI工具的临床有效性和公信度。
以案例为证，AI辅助影像诊断检测早期癌症和中风迹象，准确预测疾病发生或确定胰岛素注射剂量等。遗憾的是AI软件临床应用也引发了对患者的伤害、隐私泄露、临床准确性以及缺乏可解释性。这些已成为AI医学领域亟需解决的核心问题，关注详情。
AI医学研究人员开展了一项研究，分析了521种AI软件医疗设备的验证数据和效果，发现近一半(226项, 43%)AI软件，虽然获得了美国FDA的批准和认可，但并没有经过真实环境中的患者数据的临床验证。
研究人员认为，尽管FDA批准了这些AI算法，但并不等于这些AI软件和算法经过了充分的临床真实数据测试。
许多AI软件和AI-ML算法是依赖于“幻影图像”或计算机生成的图像数据进行模拟验证。遗憾的是，这些训练数据和方法不能替代真实环境中的患者数据验证。
研究人员还发现，FDA最新指南草案没有明确区分不同类型的临床验证研究，如回顾性验证、前瞻性验证和随机对照试验(如下):
研究人员呼吁FDA和AI医学软件研发机构或企业在申请FDA授权批准过程中，应当进行更加严格的临床真实环境验证，并公开验证结果，以提高AI算法的可信度、精准性和安全性。
业界人士评论这项研究再次强调了在AI技术应用于临床诊疗的快速发展过程中，确保AI软件和算法的临床真实有效性和安全性至关重要。
最近访谈和交流国内研究型医院和临床专家关于AI应用实景，也遇到相同问题和困惑，AI医学企业开发的AI算法或AI辅助工具并非在真实环境中的患者数据集上训练，而是在生成数据集或临床案例数据集训练。与此同时，许多专业年会上所展示的AI临床应用“效果”并非严谨的临床验证方法，容易引起误导AI软件的精准有效性和安全性。
本文为澎湃号作者或机构在澎湃新闻上传并发布，仅代表该作者或机构观点，不代表澎湃新闻的观点或立场，澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问。
