返回

TensorRT 安装指南：Ubuntu完整教程【附常见问题解决】

开发配置

很高兴你成功安装了 TensorRT！下面是关于如何安装 TensorRT 的技术博客示例：

安装 TensorRT（TensorRT Installation Guide）

TensorRT 是 NVIDIA 提供的一个高性能深度学习推理库，它优化并加速深度学习模型的推理过程。安装 TensorRT 需要遵循一些步骤，确保你正确地配置了环境变量并且正确安装了所需的依赖项。本文将介绍如何在 Ubuntu 系统上安装 TensorRT，并配置环境变量。

1. 准备工作

前提条件

  • 操作系统：Ubuntu 20.04 或更高版本。
  • CUDA：安装了适用于你的 GPU 和操作系统的 CUDA 版本（本文假设已安装 CUDA 12.x）。
  • NVIDIA 驱动：确保你的 GPU 驱动程序是最新版本。
  • Python：本文假设你已经安装了 Python 3.x（推荐使用 Python 3.7 及以上版本）。

如果你还没有安装这些软件，建议你首先进行安装，确保你的系统已经配置好 GPU 驱动、CUDA 和 cuDNN。

2. 下载 TensorRT 安装包

首先，你需要从 NVIDIA 官网下载 TensorRT 安装包。

  1. 访问 NVIDIA TensorRT 下载页面。
    给一个8.6.1.6的下载地址：https://developer.nvidia.com/downloads/compute/machine-learning/tensorrt/secure/8.6.1/tars/TensorRT-8.6.1.6.Linux.x86_64-gnu.cuda-12.0.tar.gz
  2. 选择与你的 CUDA 版本和操作系统版本匹配的 TensorRT 版本。
  3. 下载 .tar.xz 安装包（例如 TensorRT-8.6.1.6 版本）。

3. 解压安装包

下载完成后，你需要解压 TensorRT 安装包。假设你已经将文件下载到 /home/yourusername/Downloads/ 目录，执行以下命令：

cd /home/yourusername/Downloads
tar -xvf TensorRT-8.6.1.6_cuda12-archive.tar.xz

解压完成后，TensorRT 文件将出现在 /home/yourusername/Downloads/TensorRT-8.6.1.6 目录下。

4. 设置环境变量

为了让系统能够正确找到 TensorRT 的库文件和头文件，我们需要配置一些环境变量。你可以将以下命令添加到你的 ~/.bashrc 文件中：

export LD_LIBRARY_PATH=/path/to/TensorRT-8.6.1.6/lib:$LD_LIBRARY_PATH
export CPLUS_INCLUDE_PATH=/path/to/TensorRT-8.6.1.6/include:$CPLUS_INCLUDE_PATH
export PATH=/path/to/TensorRT-8.6.1.6/bin:$PATH

注意：将 /path/to/TensorRT-8.6.1.6 替换为你解压 TensorRT 的实际路径。

例如，如果你解压后的路径是 /home/yourusername/Downloads/TensorRT-8.6.1.6，则添加如下：

export LD_LIBRARY_PATH=/home/yourusername/Downloads/TensorRT-8.6.1.6/lib:$LD_LIBRARY_PATH
export CPLUS_INCLUDE_PATH=/home/yourusername/Downloads/TensorRT-8.6.1.6/include:$CPLUS_INCLUDE_PATH
export PATH=/home/yourusername/Downloads/TensorRT-8.6.1.6/bin:$PATH

添加完毕后，运行以下命令使环境变量生效：

source ~/.bashrc

5. 安装 Python API（可选）

如果你打算在 Python 中使用 TensorRT，可以安装 pycuda 和 tensorrt Python 包。

pip install pycuda
pip install nvidia-pyindex
pip install nvidia-tensorrt

确保安装过程中没有错误。

6. 验证安装

最后，你可以通过运行一个简单的 TensorRT 测试代码来验证安装是否成功。

创建一个 Python 脚本 test_tensorrt.py，并添加以下代码：

import tensorrt as trt

print("TensorRT Version: ", trt.__version__)

运行该脚本：

python test_tensorrt.py

如果输出了 TensorRT 的版本号，说明安装成功。

7. 常见问题解决

问题 1：cannot find -lnvinfer

如果遇到 cannot find -lnvinfer 错误，可能是由于没有正确设置 TensorRT 库路径。请确保 LD_LIBRARY_PATH 环境变量指向了 TensorRT 的 lib 目录。

export LD_LIBRARY_PATH=/path/to/TensorRT-8.6.1.6/lib:$LD_LIBRARY_PATH

问题 2：undefined reference to main

如果在编译时遇到 undefined reference to main 错误，说明你没有提供 main 函数。在编译时需要提供完整的代码，或者编写简单的测试代码来验证 TensorRT 是否正确安装。

8. 总结

在本文中，我们介绍了如何在 Ubuntu 上安装 TensorRT，并配置必要的环境变量。这些步骤包括解压安装包、设置环境变量、安装 Python API 以及验证安装成功。安装完成后，你就可以开始在 Python 中使用 TensorRT 来加速深度学习模型的推理过程。

希望这篇博客对你有所帮助！你可以根据自己的实际环境修改步骤或配置，确保 TensorRT 正确安装并正常工作。如果你遇到其他问题，随时可以联系我！