中科院深圳先进院 CAML 登上 Nature Biomedical Engineering，黑箱医疗 AI 可解释性转向“可视化知识流形”
学术圈重大事件 · 发布 2026-06-24T01:19:00+08:00 · 更新 2026-06-24T13:28:56+08:00
EurekAlert 6 月 23 日发布中科院深圳先进院团队 Nature Biomedical Engineering 论文，介绍 Class-Association Manifold Learning。CAML 试图把黑箱模型决策规则映射到低维类别关联流形，并生成反事实样本，帮助临床专家理解模型边界、亚型分布和病灶特征。
EurekAlert 6 月 23 日分发中科院深圳先进院新闻稿，介绍蔡云鹏团队发表于 Nature Biomedical Engineering 的 Class-Association Manifold Learning（CAML）框架，DOI 为 10.1038/s41551-026-01676-w。研究试图解决医疗 AI 的一个核心矛盾：模型在影像、病理或多组学任务上可能准确，却很难把“为什么这样判”转化为医生能检查和讨论的知识。
CAML 的思路不是只给模型加一个事后热力图，而是把黑箱模型的决策规则映射到低维流形。新闻稿称，团队将自然数据分解为两个互补子流形：低维类别关联子流形编码与 AI 决策相关的特征，并主导大部分模型行为；高维子流形则保留个体化但与决策无关的特征。这种分解结合流形学习和生成式 AI，可用于修改样本、合成逼真的反事实例子，并把隐含决策边界可视化给临床专家。
它的重要性在于，医疗 AI 的落地瓶颈正在从“能不能训练高分模型”转向“能不能解释、审计和迁移”。如果医生只能看到一个分类概率，很难判断模型是否抓住了病理机制、扫描噪声、中心差异或偶然伪影。CAML 这类方法若能稳定工作，可能帮助医生看到亚型分布、病灶签名和决策边界，从而把模型发现转成可讨论的临床知识。
仍需谨慎的是，可解释性方法本身也需要验证。低维流形是否真实对应生物学或临床机制，反事实样本是否会引入生成模型伪影，跨医院数据分布变化后解释是否保持稳定，都不能只由单篇论文解决。当前可以确认的是，一个来自中国科研机构的可解释医疗 AI 框架进入 Nature Biomedical Engineering 发表和国际新闻分发；它代表方向性进展，但临床监管和医生采纳仍要看独立验证。
信息来源
可信度说明
来源包括 EurekAlert 新闻稿、SIAT 机构页面和 Nature Biomedical Engineering DOI，期刊与机构来源较强。证据边界在于，新闻稿主要概述方法能力，具体任务、基准和局限需读论文全文；可解释性是否等同于可采信临床机制，还需要外部复现和真实工作流评估。