如何在Ubuntu上調試PyTorch程序

在Ubuntu上調試PyTorch程序可以通過以下幾種方法進行：

環境配置

1. 安裝Miniconda或Anaconda：

   • 使用Miniconda來管理Python環境和PyTorch包。
   • 安裝命令：wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh && bash Miniconda3-latest-Linux-x86_64.sh
   • 激活環境：source ~/.bashrc

2. 安裝CUDA和cuDNN：

   • 確保安裝了與PyTorch兼容的CUDA版本。例如，安裝CUDA 11.7：

     wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-keyring_1.0-1_all.deb
     sudo dpkg -i cuda-keyring_1.0-1_all.debs
     sudo apt-get update
     sudo apt-get -y install cuda-11-7
     

   • 安裝Nvidia顯卡驅動：從Nvidia官網下載并安裝適用于Ubuntu 22.04的驅動程序。

3. 安裝PyTorch：

   • 使用conda安裝PyTorch及其依賴項：

     conda install pytorch torchvision torchaudio cudatoolkit=11.3 -c pytorch
     

調試工具

1. 使用IPython或Jupyter Notebook：

   • 這些交互式環境可以幫助你逐步執行代碼并檢查變量的值。

2. 使用pdb進行調試：

   • 在代碼中添加斷點：

     import pdb; pdb.set_trace()
     

   • 運行腳本，程序會在斷點處暫停，你可以使用pdb命令進行調試。

3. 使用PyCharm：

   • 一個強大的Python IDE，提供了豐富的調試功能，如設置斷點、查看變量、調用堆棧等。

4. 使用日志記錄：

   • 使用Python的logging模塊記錄程序的運行狀態和變量值。

   import logging
   logging.basicConfig(filename='example.log', filemode='w', format='%(name)s - %(levelname)s - %(message)s')
   logging.warning('This will get logged to a file')
   

5. 使用單元測試：

   • 編寫單元測試來驗證代碼的各個部分是否按預期工作?？梢允褂?code>unittest或pytest框架。

   import unittest
   
   class TestModel(unittest.TestCase):
       def test_forward(self):
           model = SimpleNet()
           input_data = torch.randn(1, 784)
           output = model(input_data)
           self.assertEqual(output.shape, (1, 10))
   
   if __name__ == '__main__':
       unittest.main()
   

6. 使用性能分析工具：

   • 使用cProfile來分析代碼性能。

   import cProfile
   
   def my_function():
       # 你的代碼
   cProfile.run('my_function()')
   

通過以上步驟和工具，你可以在Ubuntu上有效地調試PyTorch代碼。