Fondements de l’apprentissage machine
Ce cours (IFT6390) étant conçu pour les étudiants au 2e et 3e cycles, la langue parlée par la majorité des étudiants est l'anglais. Le cours sera donc enseigné dans cette langue.
Il bien sûr possible de poser des questions en français, tout comme de répondre aux examens et devoirs dans la langue de Molière. Une version pour le 1er cycle (enseignée en français) est offerte également
par Guillaume Rabusseau.
Plateformes virtuelles
Le cours est enseigné en direct sur Google Meet. Les enregistrements et notes écrites sont ensuites déposées dans un dossier Google Drive. Les notes sont téléversées sur Studium. Les discussions en direct se font sur Slack
Les liens privées pour accéder au contenu seront envoyés aux adresses de courriel qui me sont disponible dans Studium.
Horaire
- Lundi: 12h30 à 14h30
- Mercredi: 14h30 à 15h30
Sujets
- Récapitulatif de l'algèbre linéaire et notions de calcul différentiel
- Terminologie/taxonomie générale
- Apprentissage supervisé
- Problèmes de classification et de régression
- Apprentissage non-supervisé
- Estimation par noyau
- k plus proches voisins
- Réduction de dimensions
- Principes de l'apprentissage statistique
- Capacité, généralisation et complexité des modèles
- Sur-entraînement
- Validation croisée
- Validation noncroisée
- Validation croisée à k blocs
- Phénomène de double descente
- Notions d'optimisation
- Optimisation sans contraintes
- Conditions nécessaires d'optimalité de premier ordre
- Conditions nécessaires et suffisantes d'optimalité
- Optimisation avec contraintes
- Conditions nécessaires d'optimalité de premier ordre
- Conditions nécessaires et suffisantes d'optimalité
- Algorithmes
- Méthode de Newton
- Optimisation sans contraintes: descente de gradient
- Dérivation sous forme de problème avec contrainte
- Optimisation avec contrainte
- Sequential Quadratic Programming
- Estimateurs statistiques
- Estimateur du maximum de vraisemblance
- L'estimateur du maximum a posteriori (MAP)
- Modèles classiques linéaires
- Régression linéaire
- Régression logistique
- SVM linéaire
- Modèles classiques non-linéaires
- Réseaux de neuronnes artificiels
- Différentiation Automatique
- Réseaux récurrents, à convolutions
- Arbres de décisions, forêts aléatoires
- Apprentissage non-supervisé
- Méta-apprentissage
Bien-être