PyTorch中如何進行模型遷移學習

在PyTorch中進行模型遷移學習通常需要以下步驟：

1. 加載預訓練模型：首先，加載一個已經在大型數據集上訓練好的模型，比如在ImageNet上訓練好的ResNet。

import torch
import torchvision.models as models

pretrained_model = models.resnet18(pretrained=True)

2. 修改模型的最后一層：根據你的任務需求，通常需要修改預訓練模型的最后一層，比如將預訓練模型的全連接層替換為適合你的新任務的全連接層。

pretrained_model.fc = nn.Linear(pretrained_model.fc.in_features, num_classes)

3. 凍結預訓練模型的參數：通常情況下，我們會凍結預訓練模型的參數，只訓練新添加的全連接層。

for param in pretrained_model.parameters():
    param.requires_grad = False

4. 定義損失函數和優化器：根據你的任務需求，定義適合你的損失函數和優化器。

criterion = nn.CrossEntropyLoss()
optimizer = torch.optim.Adam(pretrained_model.fc.parameters(), lr=0.001)

5. 訓練模型：使用新的數據集對模型進行訓練。

for epoch in range(num_epochs):
    for images, labels in dataloader:
        optimizer.zero_grad()
        outputs = pretrained_model(images)
        loss = criterion(outputs, labels)
        loss.backward()
        optimizer.step()

通過以上步驟，你可以在PyTorch中進行模型遷移學習。你可以根據具體的任務需求對以上步驟進行調整和擴展。