Lecturas. Transferencia y aumentado.

[a-ceron]

Los siguientes artículos muestran los resultados sobre modelos GANs que implementan transferencia de conocimiento.

• https://arxiv.org/pdf/1912.05270.pdf
• https://arxiv.org/pdf/1805.01677.pdf
• https://arxiv.org/pdf/2006.10738v4.pdf
• https://arxiv.org/pdf/2006.06676.pdf

Link de interes

• https://github.com/NVlabs/stylegan2-ada-pytorch

[a-ceron]

Avances

Transferencia de conocimiento

• https://arxiv.org/pdf/1912.05270.pdf. ✅
• https://arxiv.org/pdf/1805.01677.pdf ✅

  Aumentado de datos

• https://arxiv.org/pdf/2006.10738v4.pdf ✅
• https://arxiv.org/pdf/2006.06676.pdf ✅

Link de interes

• https://github.com/NVlabs/stylegan2-ada-pytorch
• https://github.com/yaxingwang/MineGAN
• https://github.com/mit-han-lab/data-efficient-gans

[a-ceron]

Wang, Y., Gonzalez-Garcia, A., Berga, D., Herranz, L., Khan, F. S., & Weijer, J. V. D. (2020). Minegan: effective knowledge transfer from gans to target domains with few images. In Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (pp. 9332-9341).

Resumen

En el discurso del artículo se mencionan diferentes benefícios sobre la transferencia de conocimiento. Si uno posee la habilidad de transferir conocimiento obtenido de un entrenamiento a otro de dominio similar, se podrán realizar nuevos entrenamientos con menos cantidad de archivos.

El modelo toma como asunción principal lo siguiente: se cuenta con uno o más modelos GANs pre-entrenados y se espera que al realizar el enetramiento al conjunto objetivo se reduzca la divergencia entre la fuente y el objetivo. Esto se logra perfeccionando el modelo miner (M) y el modelo generador (G). Las ventajas de este modelo:

• Disminuye el riesgo de sobre entrenamiento, logra una rápida adaptación de los parámetros.
• El modelo pre-entrenado puede sobre llevarse si no hay una gran similitud entre la base y el objetivo
• Exister normalización de los daos.
• Se usa como base el modelo WGAN

[a-ceron]

Wang, Y., Wu, C., Herranz, L., Van de Weijer, J., Gonzalez-Garcia, A., & Raducanu, B. (2018). Transferring gans: generating images from limited data. In Proceedings of the European Conference on Computer Vision (ECCV) (pp. 218-234).

Resumen

El foco de la transferencia de conocimiento se encuentra en los modelos discriminativos. Sin embargo la transferencia de conocimiento puede disminuir el tiempo en la convergencia y la calidad de las imágenes se ve seriamente mejorada.

• El modelo inicializa los pesos para una nueva tarea con los valores de la red pre-entrenada
• Después el modelo perfecciona los parámetros con un entrenamiento con la imágenes del nuevo dominio

[a-ceron]

Training Generative Adversarial Networks with Limited Data

Resumen

Parece que el objetivo acá es que proponen una forma de mejorar la arquitectura GAN sin la necesidad de modificar la arquitectura o cambiar la función de pérdida.

• Esta puede ser otra contribución si se entrena el modelo exclusivamente usando este método.

[a-ceron]

Las lecturas fueron revisadas y leidas