习题 5-4

[gaoming1977]

二维卷积， 输入 3 x 3, 卷积核大小 2 x 2， 仿射变换形式：

z = w ⊗ x 其中， w = [[w1, w2, 0], [0, w1, w2], [w2, 0, w1]]

[YCccc-git]

写错了吧

[simo-an]

题目

习题5-4 对于一个输入为100 × 100 × 256的特征映射组， 使用3 × 3的卷积核， 输出为100 × 100 × 256的特征映射组的卷积层， 求其时间和空间复杂度． 如果引入一个1 × 1卷积核， 先得到100 × 100 × 64的特征映射， 再进行3 × 3的卷积， 得到100 × 100 × 256的特征映射组， 求其时间和空间复杂度．

解答

1. 100 × 100 × 256 使用3 × 3的卷积核输出100 × 100 × 256 计算次数： 100 × 100 × 256 * 3 × 3 × 256 = 5898240000 空间：100 × 100 × 256

2. 100 × 100 × 256 使用1 × 1的卷积核输出100 × 100 × 64 再使用3 × 3的卷积核输出100 × 100 × 256 计算次数： 100 × 100 × 64 1 × 1 × 256 + 100 × 100 × 256 3 × 3 × 64 = 1638400000 空间：100 × 100 × 64 + 100 × 100 × 256

说明

计算 W × H × C 使用M × N的卷积核输出W' × H' × C' 计算次数

则显然有 卷积核的维度为C，个数为C'

考虑输出的特征图每一个像素点都是由卷积核进行卷积得到 每个卷积操作计算次数为： M × N × C

故总计算次数 = 特征图像素数 × 每次卷积计算次数 = W' × H' × C' × M × N × C

由于《神经网络与神经学习》的课后习题没有统一答案，故创建了QQ群（765853804）来以供交流！欢迎大家来一起交流学习！━(｀∀´)ノ亻!

[yc-cui]

卷积神经网络的复杂度分析 CNN model complexity (FLOPS, MAC), parameter amount and running speed