New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

Sign up for GitHub

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Jump to bottom

关于转换TensorRT后显存增加的问题 #3

Open

chenxyyy opened this issue May 22, 2022 · 0 comments

chenxyyy commented May 22, 2022

Hello.

我目前在使用yolox-l，经过torchtrt转换以后的模型，在推理(python)的时候，我发现显存占用会很大，大约在4.9G左右。然而使用C++推理程序，显存只有1.8G。检测效果都是正常，非常nice。

请问一下，你在使用tensorrt的时候有这个问题嘛？

这个问题不管是使用您的官方权重，还是使用我自己的数据集训练出来的模型，都是有这个问题。

我使用的是3080显卡

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment