CentOS上PyTorch的調試技巧

在CentOS上調試PyTorch代碼可以通過多種方法和工具來實現。以下是一些常用的步驟和技巧：

安裝必要的工具和庫

確保你的CentOS系統上已經安裝了Python和PyTorch。如果沒有，可以使用yum或dnf來安裝。

sudo yum update -y
sudo yum install python3 python3-pip
pip3 install torch torchvision torchaudio

選擇調試工具

• pdb (Python Debugger): 常用的Python調試工具，可以通過插入 import pdb; pdb.set_trace() 來設置斷點。
• ipdb (IPython Debugger): pdb的增強版本，提供更好的交互體驗和語法高亮。
• PyCharm: 一個功能強大的IDE，內置了強大的調試功能。
• 日志記錄: 使用Python的 logging 模塊記錄程序的執行流程和變量狀態。
• 單元測試: 使用PyTorch的 torch.testing 模塊編寫和運行測試。
• 性能分析: 使用 cProfile 這樣的分析器來找出代碼中的性能瓶頸。

調試技巧

• 理解PyTorch的核心概念和工作機制，如張量(Tensors)、自動微分系統、模塊與參數、訓練循環等。
• 常見調試挑戰及解決策略，如數據加載錯誤、張量形狀不匹配、梯度計算問題等。
• 在多GPU(Nvidia)Linux機器上設置CUDA Toolkit和PyTorch。
• 使用conda創建和管理虛擬環境，避免不同項目之間的依賴沖突。

調試步驟示例

使用pdb進行調試

import pdb; pdb.set_trace()  # 設置斷點
# 程序執行到這一行時會暫停，進入pdb調試模式

使用ipdb進行調試

import ipdb; ipdb.set_trace()  # 設置斷點

使用PyCharm進行調試

• 打開PyCharm，創建一個新項目。
• 在需要調試的代碼中設置斷點。
• 點擊調試按鈕啟動調試會話。

日志記錄

import logging
logging.basicConfig(filename='example.log', filemode='w', format='%(name)s - %(levelname)s - %(message)s')
logging.warning('This will get logged to a file')

單元測試

import torch
import torch.testing as tt

class TestModel(tt.TestCase):
    def test_forward(self):
        model = SimpleNet()
        input_data = torch.randn(1, 784)
        output = model(input_data)
        self.assertEqual(output.shape, (1, 10))

if __name__ == '__main__':
    tt.main()

性能分析

import cProfile

def my_function():
    # 你的代碼

cProfile.run('my_function()')

其他調試技巧

• 使用TorchSnooper進行調試:

  pip install torchsnooper
  

  在可能出現bug的函數前加上 @torchsnooper.snoop() 裝飾器。

  @torchsnooper.snoop()
  def my_function():
      # 你的代碼
  

• 使用VizTracer進行調試:

  pip install viztracer
  

  在腳本中使用VizTracer API：

  from viztracer import VizTracer
  
  with VizTracer():
      # 你的代碼