Pytorch笔记

[Yukyukuon]

前言：Paris-Saclay的 Deep learning作业，用Pytorch 编写一些小型的网络的笔记。

笔记部分

这里记录了模型的创建步骤和nn.Module 的相关细节。
今后补全：搭建模型的容器Containers，包括 nn.Sequential, nn.ModuleList, nn.ModuleDict，它们各自有各自的特点和应用场景。

Pytorch模型的创建

模型框架

构建模型的两大要素：

• 构建子模块（比如卷积层，池化层，全连接层）
• 拼接子模块（有了子模块，我们把子模块按照一定的顺序，逻辑进行拼接起来得到最终的模型）

如定义模型：

class Net(nn.Module):

    def __init__(self):
        super(Net, self).__init__()
        self.fc1 = nn.Linear(30, 10)
        self.fc2 = nn.Linear(10, 2)

    def forward(self, x):
        h = self.fc1(x)
        h = F.relu(h)
        h = self.fc2(h)
        return h

1. 构建子模块， 这个是在自己建立的模型（继承 nn.Module ）的 init() 方法
2. 拼接子模块， 这个是在模型的 forward() 方法中

定义层

nn.Conv2d()

torch.nn.Conv2d(
    in_channels, 
    out_channels, 
    kernel_size, 
    stride=1, 
    padding=0, 
    dilation=1, 
    groups=1, 
    bias=True, 
    padding_mode='zeros', 
    device=None, 
    dtype=None
)

• dilation：是否采用空洞卷积，默认为1（不采用）
• groups：这是输入通道被分成的组数。默认值为1
• bias：即是否要添加偏置参数作为可学习参数的一个，默认为True

nn.Linear（）

torch.nn.Linear(in_features, out_features, bias=True)

• bias ：若设置为False，这层不会学习偏置。默认值：True