CentOS環境下PyTorch調試工具有哪些

CentOS環境下PyTorch調試工具匯總

1. 命令行交互式調試工具

• pdb（Python內置調試器）：Python標準庫中的基礎調試工具，通過import pdb; pdb.set_trace()在代碼中設置斷點，運行腳本后進入交互模式，支持n（下一步）、c（繼續）、p <變量>（打印變量）、l（查看上下文代碼）等命令，適合快速定位代碼邏輯問題。
• ipdb（增強版pdb）：基于pdb的增強工具，提供語法高亮、代碼自動補全和更友好的交互界面，安裝方式為pip install ipdb，使用方法與pdb一致（import ipdb; ipdb.set_trace()），適合需要更高效交互的開發者。

2. 集成開發環境（IDE）調試工具

• PyCharm：功能全面的Python IDE，內置調試模塊，支持PyTorch代碼調試。通過導入項目、設置斷點、點擊“調試”按鈕（蟲子圖標）啟動調試會話，可查看變量值、調用棧、表達式評估，還能直接跳進PyTorch源碼，適合大型項目開發。
• Visual Studio Code（VS Code）：輕量級代碼編輯器，通過安裝Python擴展支持PyTorch調試。需配置.vscode/launch.json文件，設置斷點后點擊“綠色播放”按鈕啟動調試，支持變量監視、調用堆棧查看，還可結合TensorBoard插件可視化訓練過程。

3. 日志與斷言工具

• Python logging模塊：靈活的日志記錄工具，通過logging.basicConfig配置日志級別（如DEBUG）、格式和輸出文件（如app.log），在代碼中插入logging.debug('變量值: {}'.format(variable))記錄執行流程和變量狀態，適合長期運行的訓練任務。
• PyTorch SummaryWriter：用于將訓練指標（如損失、準確率）、模型結構、權重直方圖等數據寫入TensorBoard日志，通過from torch.utils.tensorboard import SummaryWriter創建實例，使用writer.add_scalar()、writer.add_graph()等方法記錄數據，配合tensorboard --logdir=runs命令啟動可視化服務，直觀監控訓練過程。
• torch.testing.assert_close：PyTorch≥1.12提供的斷言工具，用于比較兩個張量的值是否接近（支持設置相對誤差rtol和絕對誤差atol），若差異超限會拋出帶高亮差異的異常，比assert torch.allclose()更直觀，適合驗證模型輸出的準確性。

4. 性能分析工具

• PyTorch Profiler：PyTorch新一代性能分析工具，支持CPU/GPU性能分析，通過with torch.autograd.profiler.profile(use_cuda=True) as prof包裹代碼塊，使用prof.key_averages().table(sort_by='cuda_time_total')輸出每步GPU kernel耗時，排序后可快速定位性能瓶頸。也可結合TensorBoard插件（tensorboard_trace_handler）實現可視化分析。
• cProfile：Python內置的性能分析工具，通過import cProfile; cProfile.run('my_function()')生成性能報告，顯示函數調用次數、耗時等信息，適合分析代碼的整體性能分布。

5. 可視化工具

• TensorBoard：開源可視化工具，支持PyTorch模型結構、訓練指標、權重分布等的可視化，通過SummaryWriter記錄數據，使用tensorboard --logdir=runs啟動服務，在瀏覽器中查看實時訓練曲線和模型結構，適合監控訓練過程。
• Netron：跨平臺的模型可視化工具，支持ONNX、PyTorch模型等格式，通過torch.onnx.export()將PyTorch模型導出為ONNX格式，再用Netron打開（雙擊.onnx文件），可交互式查看模型層結構、數據類型、形狀等信息，適合模型架構調試。

6. 內存調試工具

• torch.cuda.memory_summary：PyTorch提供的GPU內存分析工具，通過print(torch.cuda.memory_summary())打印設備級內存分配表，顯示當前分配的顯存、預留的顯存及各張量的內存占用情況，幫助定位顯存泄漏或過度占用問題。
• torch.autograd.set_detect_anomaly：開啟反向傳播異常檢測，通過with torch.autograd.set_detect_anomaly(True): loss.backward()運行反向傳播，若存在inplace操作破壞計算圖（如tensor.add_(1)），會立即拋出堆棧信息，幫助定位梯度計算問題。

7. 其他實用工具

• TorchSnooper：自動打印每行代碼的張量信息的工具，通過pip install torchsnooper安裝，在函數前添加@torchsnooper.snoop()裝飾器，運行腳本后會自動輸出每行代碼執行后的張量形狀、數據類型、設備等信息，適合快速檢查張量維度是否符合預期。
• VizTracer：輕量級代碼跟蹤工具，支持Python和PyTorch代碼的性能分析與可視化，通過viztracer my_script.py生成跟蹤數據文件，或使用with VizTracer(log_torch=True):包裹代碼塊追蹤PyTorch原生調用，生成的HTML報告可直觀展示代碼執行流程和時間分布。