Sections à traiter

Création en français

[x] Historique, concepts de base et applications de l'intelligence artificielle loin des fantasmes portés par ce domaine.
[ ] Intelligence collective : agréger une connaissance partagée par de nombreux agents virtuels.
[ ] Algorithmes génétiques : faire évoluer une population d'agents virtuels par sélection.
[x] Machine Learning usuel : définition.
[x] Types de tâches : Supervised Learning, Unsupervised Learning, Reinforcement Learning.
[x] Types d'actions : classification, régression, clustering, estimation de densité, réduction de dimensionalité.
[x] Exemples d'algorithmes Machine Learning : régression linéaire, Naive Bayes, Random Tree.
[ ] Machine Learning versus Deep Learning : pourquoi le ML reste aujourd'hui l'état de l'art (Random Forests & XGBoosts) ?

[x] Rappel de bases mathématiques.
[x] Le réseau de neurones : architecture, fonctions d'activation et de pondération des activations précédentes...
[x] L'apprentissage d'un réseau de neurones : fonctions de coût, back-propagation, stochastic gradient descent...
[x] Modélisation d'un réseau de neurones : modélisation des données d'entrée et de sortie selon le type de problème.
[x] Approximer une fonction par un réseau de neurones. Approximer une distribution par un réseau de neurones.
[x] Data Augmentation : comment équilibrer un dataset ?
[x] Généralisation des résultats d'un réseau de neurones.
[x] Initialisations et régularisations d'un réseau de neurones : L1/L2 Regularization, Batch Normalization.
[x] Optimisations et algorithmes de convergence.

[x] Approximation d'une fonction et d'une distribution par un réseau de neurones.

[x] Présentation des CNNs : principes fondamentaux et applications.
[x] Fonctionnement fondamental d'un CNN : couche convolutionnelle, utilisation d'un kernel, padding et stride...
[x] Architectures CNN ayant porté l'état de l'art en classification d'images : LeNet, VGG Networks, Network in Network...
[x] Utilisation d'un modèle d'attention.
[x] Application à un cas de figure de classification usuel (texte ou image).
[x] CNNs pour la génération : super-résolution, segmentation pixel à pixel.
[x] Principales stratégies d'augmentation des Feature Maps pour la génération d'une image.

[x] Innovations apportées par chaque architecture CNN et leurs applications plus globales (convolution 1x1 ou connexions résiduelles).

[x] Présentation des RNNs : principes fondamentaux et applications.
[x] Fonctionnement fondamental du RNN : hidden activation, back propagation through time, unfolded version.
[x] Évolutions vers les GRU (Gated Recurrent Units) et LSTM (Long Short Term Memory).
[x] Problèmes de convergence et vanising gradient.
[x] Types d'architectures classiques : prédiction d'une série temporelle, classification...
[x] Architecture de type RNN Encoder Decoder. Utilisation d'un modèle d'attention.
[x] Applications NLP : word/character encoding, traduction.
[x] Applications vidéo : prédiction de la prochaine image générée d'une séquence vidéo.

[x] Différents états et évolutions apportées par les architectures Gated Recurrent Units et Long Short Term Memory.

[x] Présentation des modèles générationnels Variational AutoEncoder (VAE) et Generative Adversarial Networks (GAN).
[x] Auto-encoder : réduction de dimensionnalité et génération limitée.
[x] Variational AutoEncoder : modèle générationnel et approximation de la distribution d'une donnée.
[x] Définition et utilisation de l'espace latent. Reparameterization trick.
[x] Fondamentaux du Generative Adversarial Networks.
[x] Convergence d'un GAN et difficultés rencontrées.
[x] Convergence améliorée : Wasserstein GAN, BeGAN. Earth Moving Distance.
[x] Applications de génération d'images ou de photographies, génération de texte, super résolution.

[x] Reinforcement Learning.
[x] Utilisation d'un réseau de neurones pour approximer la fonction d'état.
[x] Deep Q Learning : experience replay et application au contrôle d'un jeu vidéo.
[x] Optimisations de la politique d'apprentissage. On-policy et off-policy. Actor critic architecture. A3C.
[x] Applications : contrôle d'un jeu vidéo simple ou d'un système numérique.

[x] Contrôle d'un agent dans un environnement défini par un état et des actions possibles.