issues
search
machine-perception-robotics-group
/
MPRGDeepLearningLectureNotebook
354
stars
34
forks
source link
readme
MPRG Deep Learning Lecture Notebook
Python チュートリアル
Google Colaboratory・Pythonの使い方
Google Colaboratoryの動作確認
PythonプログミングとNumPy
初級編
初級1:ゼロから理解するDeep Learning
最適化(GD, Momentum, AdaGrad, Adam)
単純パーセプトロンによるAND回路の作成
MLPによるXOR回路の作成
MLPによる2クラス分類
ミニバッチを用いたMLPの学習
MLPによる多クラス分類(MNIST)
正則化(Dropout)
Batch Normalizationの導入
im2colを用いた効率的な畳み込み処理
CNNによる画像認識(MNIST, Numpy実装)
初級2:PyTorchで作るシンプルネットワーク
MLPによる画像認識(MNIST, PyTorch実装)
CNNによる画像認識(MNIST, PyTorch実装)
誤差関数の変更による学習効果
CNNによる画像認識(CIFAR10, PyTorch実装)
既存のデータセットの活用
データセットクラスの作成
データ拡張(Data Augmentation)
ハイパーパラメータの探索と検証データ
中級編
中級1:PyTorchで作るモダンネットワーク
Residual Network(ResNet, スキップ構造)
SENet
CNNの可視化(CAM)
CNNの可視化(Grad-CAM)
ファインチューニングと転移学習
Attention Branch Network(ABN)
EfficientNet
Single Shot Object Detector (SSD)
SegNet
マルチタスク基礎(分類+回帰)
マルチタスク応用(検出+セグメンテーション)
Knowledge Distillation
Deep Mutual Learning
半教師付き学習
自己教師付き学習
中級2:PyTorchで作る深層生成モデル
Auto Encoderによる画像の復元とデノイジング
Variational Autoencoder (VAE)
繰り返し処理による異常検知
Generative Adversarial Networks (GAN)
Deep Convolutional GAN (DC-GAN)
Conditional GAN
Conditional DC-GAN
CycleGAN(スタイル変換)
BigGAN
StyleGAN
中級3:PyTorchで作る再帰型ネットワーク
Recurrent Neural Networkによる電力予測
Recurrent Neural NetworkによるBitcoinの価格予測
Encoder-Decoderによる計算機作成
Attention Seq2seqによる計算機作成
Attention Seq2seqによる日付変換
Transformerによる計算機作成
Convolutional LSTMを用いた動画像予測
中級4:PyTorchで作る強化学習
強化学習(Q学習とQ Network)によるCart Pole制御
DQN(クリッピング・リプレイ・ターゲットネットワーク)
Policy gradient (DQNの改良)
Actor-cltic
Mask-Attention
DQNの応用例
中級5:PyTorchで作るグラフニューラルネットワーク
グラフ表現
GCNによるノード分類
ST-GCNによる動作認識
STA-GCNによる動作認識
グラフ生成
中級6:PyTorchで作るVision Transformer (ViT)
ViTの教師あり学習(フルスクラッチ・fine-tuning)
Attention Weightの可視化
DeiT
MAE
その他
機械学習の基礎
グラフを描画する
ユークリッド距離を用いたクラス識別
マハラノビス距離を用いたクラス識別
k最近傍法による教師あり学習
線形SVMによる教師あり学習
非線形SVMによる教師あり学習
AdaBoostによる教師あり学習
RandomForestによる教師あり学習
マテリアルズインフォマティクス
プログラム練習帳
プログラム練習帳:画像認識
プログラム練習帳:CSVファイル