Le carnet On est …
Compagnon · révision IA Sem 2 · pour le DS

Deck de flashcards

Toutes les notions du périmètre du partiel — ConvNet, RNN/LSTM, Apprentissage par renforcement, NLP — condensées en cartes éclair. Clique pour retourner.

~ 70 cartes 4 chapitres DS + bonus CM1 / CM6

📍 Avant de commencer

Périmètre du DS Le partiel porte sur CM2 → CM5 : ConvNet · RNN / LSTM · Apprentissage par renforcement · NLP. Les sections CM1 (réseaux de neurones de base) et CM6 (recuit simulé) sont gardées en bonus en fin de page.
💡 Conseil de révision
Survole une carte → essaie de répondre à voix haute → puis clique pour vérifier. L'auto-évaluation orale est ce qui ancre le mieux les formules.

1. CM2 — Deep Learning · ConvNet

Aller au chapitre complet ↗

Deep Learning

Définition compacte.

tourne →
RN avec grand nombre de couches. La profondeur = le nombre de couches du réseau.

Pourquoi un CNN pour images ?

1 raison clé.

Exploite la structure spatiale de l'image via la connexion locale : chaque neurone est connecté à une petite zone → détecte motifs locaux + réduit drastiquement le nb de paramètres.

Architecture CNN classique

Ordre des couches.

Input → Conv → Pool → Dropout → … → Flatten → Dense → Softmax

Filtre / kernel

Rôle dans le CNN ?

Petit tableau qui glisse sur l'image pour détecter un motif (contour, forme, texture, coin).

Taille de sortie Conv (sans padding)

Formule pour image $m\times m$ + filtre $n\times n$.

$(n - m + 1) \times (n - m + 1)$
Ex : 28×28 + 3×3 → 26×26.

Padding

valid vs same.

valid : pas de bordure → sortie plus petite $(m-n+1)^2$.
same : bordure de zéros → sortie de même taille que l'entrée.

Stride

Définition + effet.

Le pas de déplacement du filtre. Par défaut $s = 1$. Avec $s = 2$, on saute un pixel sur deux ⇒ sortie environ 2× plus petite.

Params Conv2D

Formule avec $f$ filtres, kernel $n\times n$, $c$ canaux.

$\text{params} = f \times (m \times m \times c + 1)$
Ex : Conv2D(32, 3×3) sur 1 canal = 32 × (9 + 1) = 320.

ReLU

Formule + intérêt.

$\mathrm{ReLU}(x) = \max(0, x)$. Évite la saturation des gradients ⇒ apprentissage rapide dans les couches profondes.

MaxPooling 2×2

Effet sur le tenseur, nb params.

Garde le max de chaque carré 2×2. Divise chaque dimension spatiale par 2 (26×26×32 → 13×13×32). 0 paramètre.

Dropout(p)

Quoi et pourquoi ?

Met à 0 environ $p\times 100\,\%$ des neurones pendant l'apprentissage. Force le réseau à ne pas dépendre de quelques neurones ⇒ évite le sur-apprentissage.

Flatten

Rôle, nb params.

Transforme un tableau (2D ou 3D) en vecteur 1D pour passer à une Dense. Ex : 13×13×32 → 5 408. 0 paramètre.

Params Dense

Formule pour nb_out, nb_in.

$\text{params} = \text{nb}_{\text{out}} \times (\text{nb}_{\text{in}} + 1)$
Le +1 = biais. Ex : Dense(10) après Flatten 5408 → 54 090.

Softmax (sortie)

Quand l'utiliser ?

Couche de sortie multi-classe. $\hat y_j = e^{z_j} / \sum_i e^{z_i}$ ⇒ distribution de proba sur les $K$ classes.

BCE vs CCE

Quelle perte choisir ?

binary_crossentropy : 2 classes (chat / non-chat) — sigmoid 1 neurone.
categorical_crossentropy : $K \ge 3$ classes (MNIST) — softmax $K$ neurones.

Epoch vs batch size

Différence.

Epoch = 1 passage complet sur toutes les données.
Batch size = nb d'exemples vus avant une MAJ des poids.

Optimiseur Adam

Rôle.

Ajuste les poids pour réduire la perte. Apprentissage rapide et efficace — c'est l'optimiseur par défaut.

Accuracy vs Précision (classe)

Différence.

Accuracy = bonnes prédictions / total (global).
Précision classe X = $\mathrm{VP} / (\mathrm{VP} + \mathrm{FP})$ ⇒ parmi les prédictions « X », combien sont vraiment X.

Matrice de confusion

Lecture.

Tableau $K\times K$. Montre les erreurs classe par classe : où chaque classe est confondue (chat ↔ chien, avion ↔ bateau). Plus riche que l'accuracy.

2. CM3 — Deep Learning · RNN / LSTM

Aller au chapitre complet ↗

Définition RNN

1 caractéristique clé.

tourne →
RN qui contient une boucle : l'état $H^{t-1}$ est réinjecté à l'instant $t$ ⇒ mémoire interne.

Pourquoi pas un RN classique ?

Pour traiter une séquence.

Un RN feedforward traite chaque entrée indépendamment : il perd l'ordre et le contexte. Or « Le chien mord l'homme » ≠ « L'homme mord le chien ».

Hyperparamètres RNN

Lesquels ?

$n$ (entrée), $m$ (caché), $p$ (sortie), $T$ (longueur séquence). Fixés avant l'entraînement.

Paramètres RNN

Lesquels ?

$U, V, W, B^h, B^o$
Appris pendant l'entraînement.

Matrice $U$

Rôle + dimensions.

$U : m \times n$
Poids entre l'entrée $X^t$ et la couche cachée $H^t$.

Matrice $V$

Rôle + dimensions.

$V : m \times m$
Poids entre $H^{t-1}$ et $H^t$ — la boucle.

Matrice $W$

Rôle + dimensions.

$W : p \times m$
Poids entre $H^t$ et la sortie $Y^t$.

État caché

Formule de $H^t$.

$H^t = \tanh(U X^t + V H^{t-1} + B^h)$
$\tanh \in [-1, 1]$.

Sortie $Y^t$

Formule.

$Y^t = \mathrm{Softmax}(W H^t + B^o)$
Softmax pour classif multi-classe (proba par mot du vocab).

Many-to-one

Cas d'usage.

1 séquence → 1 sortie. Ex : sentiment d'une phrase (positif / négatif).

One-to-many

Cas d'usage.

1 entrée → 1 séquence. Ex : image captioning (image → description).

Many-to-many

Cas d'usage.

1 séquence → 1 séquence. Ex : traduction automatique (FR → EN).

Dérouler dans le temps

Attention !

On voit plusieurs copies du réseau, une par instant. Ce sont les mêmes paramètres $U, V, W, B^h, B^o$ réutilisés à chaque étape — pas des réseaux différents.

BPTT

Sigle + idée.

Backpropagation Through Time. On déroule le RNN dans le temps puis on applique la rétropropagation classique sur le graphe étendu.

Erreur totale

Formule.

$E(P) = \sum_t E^t(P)$
Somme des erreurs à chaque instant. $P = (U, V, W, B^h, B^o)$.

Limite RNN classique

Pourquoi LSTM ?

Mémoire courte : sur de longues séquences, les gradients disparaissent ou explosent. Le LSTM ajoute une mémoire et des portes pour gérer ça.

LSTM

Sigle + idée centrale.

Long Short Term Memory. RNN amélioré avec une mémoire interne $c_t$ + 3 portes pour décider quoi garder, ajouter, sortir.

3 portes LSTM

Noms + rôle.

$f_t$ forget (oubli) · $i_t$ input (ajout) · $o_t$ output (sortie). Sigmoïdes ⇒ valeurs $\in [0,1]$.

Interpréter une porte

Valeur proche de 0 ou 1 ?

Proche de 0 ⇒ on bloque / oublie.
Proche de 1 ⇒ on laisse passer / on garde.

Mémoire LSTM

Formule de $c_t$.

$c_t = f_t \cdot c_{t-1} + i_t \cdot \tilde{c}_t$
① ancienne mémoire filtrée · ② nouvelle info filtrée.

Sortie LSTM

Formule de $h_t$.

$h_t = o_t \cdot \tanh(c_t)$

Encodeur-Décodeur

3 étapes.

① Encodeur lit la séquence d'entrée · ② vecteur contexte (résumé) · ③ décodeur produit la séquence de sortie. Architecture seq-à-seq (traduction).

Attention

Idée + problème résolu.

Le vecteur contexte unique est insuffisant pour les phrases longues. L'attention donne des poids différents aux éléments de la séquence d'entrée ⇒ le réseau apprend où regarder.

Évolution historique

De DL à Transformers.

DL → RNN → LSTM → Enc-Déc → Attention → Transformers

3. CM4 — Apprentissage par renforcement

Aller au chapitre complet ↗

Principe RL

1 boucle.

tourne →
essai → erreur → récompense / punition → amélioration de la stratégie.

Objectif de l'agent

Que maximise-t-il ?

Le cumul des récompenses à long terme. Pas la récompense immédiate.

5 éléments du problème RL

Cite-les.

Agent · Environnement · état $S$ · action $A$ · récompense $R$.

Stratégie $\pi$

Déterministe vs probabiliste.

Déterministe : $\pi : S \to A$.
Probabiliste : distribution sur les actions, $\pi(a \mid s)$.

Propriété de Markov

Formule + intuition.

$P(X_{t+1} \mid X_t, \ldots, X_0) = P(X_{t+1} \mid X_t)$
Le futur dépend uniquement du présent, pas du passé.

Matrice de transition

Propriété.

La somme de chaque ligne vaut 1 (distribution de probabilité sur les états suivants).

MDP

5 composants.

$(S, A, T, R, \gamma)$
$T(s,a,s')$ : proba de transition · $R(s,a)$ : récompense · $\gamma$ : actualisation.

3 modèles d'optimalité

Lesquels ?

(a) Horizon fini : $G = \sum_{t=0}^{h} r_t$.
(b) Horizon infini avec $\gamma$ : $G = \sum_t \gamma^t r_t$.
(c) Récompense moyenne : $\lim \tfrac{1}{h}\sum r_t$.

$\gamma$ (gamma)

Rôle + extrêmes.

Facteur d'actualisation $\in [0, 1]$.
$\gamma \to 0$ : court terme.
$\gamma \to 1$ : long terme.

$V^\pi$ vs $V^*$

Différence.

$V^\pi(s)$ : valeur de l'état $s$ sous $\pi$.
$V^*(s) = \max_\pi V^\pi(s)$.
$V^*$ est la valeur sous la meilleure stratégie.

Équation de Bellman

Pour $V^*(s)$.

$V^*(s) = \max_a \left[R(s,a) + \gamma \sum_{s'} T(s,a,s')\, V^*(s')\right]$

Value Iteration

Idée.

Itérer l'équation de Bellman jusqu'à stabilisation de $V$. Puis déduire $\pi^*(s) = \arg\max_a [R + \gamma\sum T V^*]$.

Policy Iteration

Idée.

① Choisir $\pi$ initiale · ② l'évaluer (calculer $V^\pi$) · ③ l'améliorer · ④ répéter jusqu'à stabilité.

VI vs PI

Principale différence.

Value Iteration manipule $V$ et déduit $\pi^*$ à la fin.
Policy Iteration manipule $\pi$ directement.

Q-Learning

Spécificité.

Model-free : apprend $Q(s,a)$ sans connaître $T$ ni $R$, juste par interaction avec l'environnement.

Mise à jour Q

Formule.

$Q(s,a) \leftarrow Q(s,a) + \alpha\left[r + \gamma \max_{a'} Q(s', a') - Q(s,a)\right]$

$\alpha$ (alpha)

Rôle.

Learning rate : à quel point on remplace l'ancienne valeur $Q$ par la nouvelle. Trop petit → lent. Trop grand → instable.

$\pi^*$ depuis $Q^*$

Formule.

$\pi^*(s) = \arg\max_a Q^*(s, a)$
et $V^*(s) = \max_a Q^*(s, a)$.

ε-greedy

Compromis exploration / exploitation.

Avec proba $\varepsilon$ : action aléatoire (exploration).
Sinon : action $\arg\max Q$ (exploitation).
$\varepsilon = 0$ ⇒ 100 % exploitation · $\varepsilon = 1$ ⇒ 100 % exploration.

Convergence Q-Learning

Quand s'arrêter ?

Quand les valeurs $Q$ se stabilisent (ne changent plus significativement entre deux itérations).

4. CM5 — Intro NLP

Aller au chapitre complet ↗

NLP — définition

Sigle + branche.

tourne →
Natural Language Processing. Branche de l'IA pour communiquer avec les machines en langue naturelle.

3 approches NLP

Lesquelles ?

Symbolique (règles) · Statistique · Connexionniste (LSTM, ConvNet).

7 niveaux d'analyse

Cite-les dans l'ordre.

① Phonologie · ② Morphologie · ③ Lexical · ④ Syntaxique · ⑤ Sémantique · ⑥ Discours · ⑦ Pragmatique.

Niveaux NLP en pratique

Lesquels traite-t-on ?

Les niveaux inférieurs : lexical, syntaxique, sémantique.

Tokenization

Définition.

Découper le document en tokens : mots, ponctuation, nombres, autres items discrets.

9 catégories POS

Cite-les.

Adjective · Adverb · Conjunction · Determiner · Noun · Preposition · Pronoun · Proper Noun · Verb.
Ponctuation = pas de POS.

Mots ambigus (POS)

Comment les tagger ?

On attribue le POS le plus probable dans le contexte. Ex : "He likes to fish" (V) vs "He caught a fish" (N).

Stemming

Principe + exemple.

Coupe les affixes mécaniquement.
studies → studi ⚠
computers → computer
Le résultat n'est pas toujours un mot valide.

Lemmatization

Principe + exemple.

Forme du dico via POS + règles.
better → good
saw (V) → see
Toujours un mot valide.

Stemming vs Lemmatization

Différence à mémoriser.

Stemming = mécanique, parfois non-mot.
Lemmatization = dictionnaire + POS, toujours valide.

Grammaire formelle

4 composants.

① Σ symboles terminaux
② N symboles non terminaux
③ S symbole de départ
④ règles de production LHS → RHS

CFG

Sigle + caractéristique.

Context-Free Grammar : règles avec un unique non-terminal à gauche. C'est le niveau minimal requis pour les langues naturelles.

Hiérarchie de Chomsky

Combien de classes ?

4 classes de grammaires, selon la forme des règles. Les langues naturelles requièrent au moins la classe hors-contexte (CFG).

Arbre d'analyse

Racine + feuilles ?

Racine = $S$. Feuilles = symboles terminaux. Le parsing construit cet arbre à partir d'une phrase.

Bracketed string

À quoi sert-elle ?

Représentation linéaire d'un arbre d'analyse avec des crochets. Équivalente à l'arbre, plus compacte.

3 types d'ambiguïté

Cite-les.

Lexicale (un mot, plusieurs sens) · Syntaxique (plusieurs arbres) · Référentielle (pronom ambigu).

Relations lexicales horizontales

Lesquelles ?

Synonymie · antonymie · conversité · homonymie · polysémie.

Hyponymie

Définition + exemple.

Sens plus spécifique. rose est hyponyme de flower. cat et dog sont co-hyponymes de animal (qui est leur hypernyme).

Méronymie

Définition + exemple.

Relation part-of. wheel / car, nose / face. Le tout = holonyme, la partie = méronyme.

Wordnet

C'est quoi ?

Base de données lexicale (synsets + relations sémantiques). Accessible en Python via nltk.corpus.wordnet.

Classifieur bayésien naïf

Cas d'usage NLP.

Classification de texte simple (ex. analyse de sentiment). En NLTK : NaiveBayesClassifier.train(...).

Outils NLTK

4 incontournables.

word_tokenize · pos_tag · WordNetLemmatizer · NaiveBayesClassifier

★ Bonus — CM1 (hors DS) · Réseaux de neurones

Aller au chapitre complet ↗

Le CM1 n'est pas au programme du DS. Les cartes ci-dessous sont gardées pour les bases (sortie d'un neurone, fonctions d'activation, descente de gradient) — utiles à la culture générale.

Sortie d'un neurone

Formule.

$z = \sum_i w_i x_i + b$
$a = g(z)$

Perceptron

3 propriétés.

① Sans couche cachée · ② 1 seul neurone de sortie · ③ Activation Heaviside.

Théorème du perceptron

Condition.

Le perceptron représente $f$ ssi $f$ est linéairement séparable.

Sigmoïde

Formule + usage.

$\sigma(x) = 1/(1+e^{-x}) \in [0,1]$. Sortie probabiliste binaire.

Descente de gradient

MAJ des poids.

$W_{t+1} = W_t - \eta \cdot \nabla E(W_t)$
$\eta$ = learning rate.

3 versions GD

Batch / stochastique / mini-batch.

Batch : tous les ex. → stable, lent.
Stochastique : 1 ex. → bruyant.
Mini-batch : taille fixe → compromis.

Surapprentissage

Comment le détecter ?

La perte d'entraînement baisse mais la perte de validation remonte. Remède : régularisation, dropout, early stopping.

★ Bonus — CM6 (hors DS) · Recuit simulé

Aller au chapitre complet ↗

Le CM6 n'est pas au programme du DS (confirmé par le prof). Cartes gardées en hors-piste pour les curieux.

Recuit simulé

Analogie physique.

Inspiré du refroidissement contrôlé des métaux. T° haute ⇒ accepte les mauvais coups (exploration). T° basse ⇒ uniquement les améliorations (exploitation).

Règle de Metropolis

Proba d'acceptation.

Si $\Delta E \le 0$ : accepter.
Sinon : accepter avec proba $p = e^{-\Delta E / T}$.

4 ingrédients du RS

Pour modéliser un problème.

① Représentation · ② Énergie · ③ Voisinage · ④ Schéma de refroidissement.

Schéma géométrique

Refroidissement le plus courant.

$T_{k+1} = \alpha \cdot T_k$
$\alpha \in [0.8, 0.99]$. Simple, efficace.

RS vs descente classique

Avantage.

La descente se bloque dans les minima locaux. Le RS peut s'en échapper en acceptant temporairement de dégrader la solution.

📋 Anti-sèche express

  • Conv2D taille : $(n - m + 1)^2$ — params = $f(m^2 c + 1)$
  • padding='same' : sortie = entrée · 'valid' : sortie plus petite
  • MaxPool 2×2 : ÷ 2 chaque dim · 0 param
  • Dense params = nb_out × (nb_in + 1)
  • BCE binaire · CCE multi-classe (softmax)
  • RNN : $H^t = \tanh(U X^t + V H^{t-1} + B^h)$
  • RNN sortie : $Y^t = \mathrm{Softmax}(W H^t + B^o)$
  • Dims : $U : m\times n$ · $V : m\times m$ · $W : p\times m$
  • LSTM 3 portes : forget $f_t$ · input $i_t$ · output $o_t$ (sigmoïdes ∈ [0,1])
  • Mémoire LSTM : $c_t = f_t c_{t-1} + i_t \tilde c_t$ · sortie $h_t = o_t \tanh(c_t)$
  • BPTT = backpropagation à travers le temps
  • RL : maximiser cumul des récompenses LT
  • MDP = $(S, A, T, R, \gamma)$ · Markov : futur ⊥ passé | présent
  • Bellman $V^*(s) = \max_a [R + \gamma\sum T V^*]$
  • Value Iter : itère $V$ · Policy Iter : améliore $\pi$
  • Q-Learning model-free : $Q \leftarrow Q + \alpha[r + \gamma\max Q' - Q]$
  • $\pi^*(s)$ = $\arg\max_a Q^*(s,a)$ · ε-greedy : ε explo, 1−ε exploit
  • NLP 7 niveaux : phono / morpho / lex / synt / sém / disc / pragm
  • 9 POS : Adj Adv Conj Det Noun Prep Pron PropN Verb
  • Stem mécanique (studi) · Lem via dico+POS (good)
  • Grammaire = (Σ, N, S, règles) · CFG : 1 non-terminal à gauche
  • 3 ambiguïtés : lexicale, syntaxique, référentielle
  • Wordnet (NLTK) : synsets + hypo / hyper / méro / holonymie