2024/04/15 ~ 2024/05/01

[njs03332]

• 1: 17.4
• 2: 17.5
• 3: 17.6
• ~4/24 수요일 22:30~
• 5/1 수요일 22:30

[givitallugot]

17.4 합성곱 오토인코더

• 이미지를 다루는 경우에는 오토인코더가 좋은 성능을 내지 못함
• 이미지를 다룰 때는 합성곱 신경망이 밀집 네트워크보다 훨씬 잘 맞음
• 따라서 이미지에 대한 오토인코더를 만들려면 합성곱 오토인코더를 만들어야 함
• 인코더는 합성곱 층과 풀링 층으로 구성된 일반적인 CNN
• 디코더는 원본 차원으로 되돌려야 함. 이를 위해 전치 합성곱 층을 사용함

conv_encoder = keras.models.Sequential([
    keras.layers.Reshape([28, 28, 1], input_shape=[28, 28]),
    keras.layers.Conv2D(16, kernel_size=3, padding="SAME", activation="selu"),
    keras.layers.MaxPool2D(pool_size=2),
    keras.layers.Conv2D(32, kernel_size=3, padding="SAME", activation="selu"),
    keras.layers.MaxPool2D(pool_size=2),
    keras.layers.Conv2D(64, kernel_size=3, padding="SAME", activation="selu"),
    keras.layers.MaxPool2D(pool_size=2)
])
conv_decoder = keras.models.Sequential([
    keras.layers.Conv2DTranspose(32, kernel_size=3, strides=2, padding="VALID", activation="selu",
                                 input_shape=[3, 3, 64]),
    keras.layers.Conv2DTranspose(16, kernel_size=3, strides=2, padding="SAME", activation="selu"),
    keras.layers.Conv2DTranspose(1, kernel_size=3, strides=2, padding="SAME", activation="sigmoid"),
    keras.layers.Reshape([28, 28])
])
conv_ae = keras.models.Sequential([conv_encoder, conv_decoder])

conv_ae.compile(loss="binary_crossentropy", optimizer=keras.optimizers.SGD(learning_rate=1.0),
                metrics=[rounded_accuracy])
history = conv_ae.fit(X_train, X_train, epochs=5,
                      validation_data=(X_valid, X_valid))

[njs03332]

17.5 순환 오토인코더

• 시계열이나 텍스트와 같은 시퀀스에 대한 오토인코더를 만들 때 순환 신경망을 사용할 수 있음 - 순환 오토인코더
  • 인코더: 시퀀스-투-벡터 RNN
  • 디코더: 벡터-투-시퀀스 RNN

recurrent_encoder = keras.models.Sequential([
    keras.layers.LSTM(100, return_sequences=True, input_shape=[None, 28]),
    keras.layers.LSTM(30)
])
recurrent_decoder = keras.models.Sequential([
    keras.layers.RepeatVector(28, input_shape=[30]),
    keras.layers.LSTM(100, return_sequences=True),
    keras.layers.TimeDistributed(keras.layers.Dense(28, activation="sigmoid"))
])
recurrent_ae = keras.models.Sequential([recurrent_encoder, recurrent_decoder])

• 타임 스텝마다 28차원을 갖는 어떤 길이의 시퀀스를 처리할 수 있음
  • 어떤 종류의 시퀀스에도 순환 오토인코더를 사용할 수 있음 (각 이미지를 행의 시퀀스로 간주하여 패션 MNIST 이미지를 처리할 수도 있음)
• 앞으로 과대완전 오토인코더의 몇 가지를 알아보게 될 것
  • 과소완전 - 오토인코더가 흥미로운 특성을 학습하도록 강제하기 위해 코딩 층의 크기를 제한
  • 과대완전 - 입력 크기만큼 또는 입력보다 큰 코딩층을 두는 방법

[danbi5228]

17.6 잡음 제거 오토인코더

• 인코더가 유용한 특성을 학습하도록 강제하는 다른 방법은 입력에 잡음을 추가하고, 잡음이 없는 원본 입력을 복원하도록 훈련하는 것
  • 적층 잡음 제거 인코더; 2008년, 파스칼 빈센트 등
• 잡음 넣기
  • 
  • 순수한 가우시안 잡음을 입력에 추가
  • 드롭아웃처럼 무작위로 입력을 제거
  • --> 잡음 제거 오토인코더를 활용해 다른 오토인코더처럼 데이터 시각화나 비지도 사전훈련을 위해 사용할 수도 있음
• 예시

  
  dropout_encoder = keras.models.Sequential ([
  keras. layers.Flatten(input_shape=[28, 28]),
  keras. layers.Dropout(0.5), 
  keras. layers.Dense(100, activation="selu"), 
  keras. layers.Dense(30, activation="selu")
  ])

dropout_decoder = keras.models.Sequential([ keras. layers.Dense(100, activation="selu", input_shape=[30]), keras. layers.Dense(28 * 28, activation="sigmoid"), keras. Layers.Reshape([28, 28]) ]) dropout_ae = keras.models.Sequential([dropout_encoder, dropout_decoder])

- 결과
  - ![image](https://github.com/njs03332/ml_study/assets/26505830/1f4ba045-f7ab-4401-a074-c1a085c632e4)