Ubuntu上如何調試PyTorch程序

在Ubuntu上調試PyTorch程序可按以下步驟進行：

一、環境配置

1. 安裝基礎工具
   • 使用Miniconda管理虛擬環境：

     wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
     bash Miniconda3-latest-Linux-x86_64.sh
     conda create -n pytorch_env python=3.8
     conda activate pytorch_env
     

   • 安裝PyTorch（含CUDA支持，需匹配GPU架構）：

     conda install pytorch torchvision torchaudio cudatoolkit=11.8 -c pytorch
     

2. 驗證安裝

   import torch
   print(torch.__version__, torch.cuda.is_available())  # 檢查版本和CUDA是否可用
   

二、調試工具與方法

1. 交互式調試
   • IPython/Jupyter Notebook：直接運行代碼，支持逐步執行和變量查看。
   • IDE調試（如PyCharm/VSCode）：
     • 設置斷點：點擊代碼行左側空白處。
     • 啟動調試：點擊“Debug”按鈕，通過控制臺查看變量、單步執行（F5/F10）。
2. 代碼級調試
   • pdb斷點：在代碼中插入import pdb; pdb.set_trace()，程序暫停后可使用n（下一步）、s（進入函數）、c（繼續）等命令。
   • 日志記錄：
     • 使用Python logging模塊記錄關鍵信息。
     • 用print()輸出變量值（簡單場景適用）。
3. 性能與可視化工具
   • TensorBoard：記錄損失、梯度等指標，可視化訓練過程：

     from torch.utils.tensorboard import SummaryWriter
     writer = SummaryWriter('runs/experiment')
     writer.add_scalar('Loss/train', loss.item(), epoch)
     

   • PyTorch專用工具：
     • torch.autograd.set_detect_anomaly(True)：檢測梯度異常。
     • torch.autograd.profiler：分析計算性能。

三、進階調試技巧

• 單元測試：用unittest或pytest編寫測試用例，驗證模塊功能。
• 混合精度訓練：用torch.cuda.amp減少內存占用，加速計算。
• 分布式調試：多GPU場景下，使用torch.distributed模塊時需檢查進程同步和通信。

四、常見問題排查

• CUDA錯誤：檢查驅動版本與CUDA Toolkit是否兼容，通過nvidia-smi查看驅動狀態。
• 內存不足：減小batch size，或使用torch.utils.checkpoint進行梯度檢查點優化。

參考資料：