GPUを複数使って学習を高速化したい

[akimotochowagiken]

GPUを一つしか利用していないために学習が遅い。試行回数を増やすためにGPUを複数使って同時に学習を進めたい。 おそらくGPU間のテンソルの移動が必要になるはず。

[yudai09]

https://pytorch.org/tutorials/beginner/blitz/data_parallel_tutorial.html Pytorchで複数のGPUを使う一番簡単な方法は nn.DataParallel を使うこと。バッチデータを分割して処理する。