Debian如何利用GPU加速PyTorch

在Debian系統上利用GPU加速PyTorch，需要滿足以下條件并進行相應設置：

系統要求

• 一臺配備了NVIDIA GPU的計算機。
• 已安裝NVIDIA顯卡驅動。
• CUDA Toolkit已安裝。
• cuDNN庫已安裝。
• PyTorch已安裝，并且是為CUDA版本編譯的。

設置步驟

1. 安裝NVIDIA顯卡驅動：

   使用以下命令來安裝最新的驅動程序：

   sudo apt update
   sudo apt install nvidia-driver-版本號
   

   將版本號替換為適合你顯卡型號的驅動版本號。安裝完成后，重啟計算機。

2. 安裝CUDA Toolkit：

   訪問NVIDIA的CUDA Toolkit下載頁面，選擇適合Debian的版本并按照說明進行安裝。例如，使用以下命令安裝CUDA 11.4.2：

   wget https://developer.download.nvidia.com/compute/cuda/repos/debian2004/x86_64/cuda-debian2004.pin
   sudo mv cuda-debian2004.pin /etc/apt/preferences.d/cuda-repository-pin-600
   wget https://developer.download.nvidia.com/compute/cuda/11.4.2/local_installers/cuda-repo-debian2004-11-4-local_11.4.2-1_amd64.deb
   sudo dpkg -i cuda-repo-debian2004-11-4-local_11.4.2-1_amd64.deb
   sudo apt-key add /var/cuda-repo-debian2004-11-4-local/7fa2af80.pub
   sudo apt update
   sudo apt install cuda
   

3. 安裝cuDNN庫：

   注冊一個NVIDIA開發者賬戶，下載適合你CUDA版本的cuDNN庫。下載完成后，解壓并將文件復制到CUDA目錄中：

   tar -xzvf cudnn-11.4-linux-x64-v8.2.2.26.tgz
   sudo cp cuda/include/cudnn*.h /usr/local/cuda/include
   sudo cp cuda/lib64/libcudnn* /usr/local/cuda/lib64
   sudo chmod a+r /usr/local/cuda/include/cudnn*.h /usr/local/cuda/lib64/libcudnn*
   

4. 安裝PyTorch：

   訪問PyTorch官方網站，選擇適合你的操作系統、包管理器、Python版本和CUDA版本的命令。例如，安裝支持CUDA 11.4的PyTorch：

   pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu114
   

5. 驗證安裝：

   安裝完成后，通過運行以下命令來驗證PyTorch是否能夠檢測到GPU：

   import torch
   print(torch.cuda.is_available())
   

   如果輸出為True，則表示PyTorch已經成功配置了GPU加速。

請注意，上述步驟可能會隨著CUDA、cuDNN和PyTorch版本的更新而變化。始終建議查看官方文檔以獲取最新信息。