Comment une intelligence artificielle apprend-elle en corrigeant ses erreurs pas à pas ?

Pourquoi cette question : un modèle d'introduction

Le jury attend que vous expliquiez pourquoi vous avez choisi la question. Inspirez-vous de ce modèle, mais racontez votre propre parcours.

On entend partout que les intelligences artificielles « apprennent ». En NSI, on m'a expliqué qu'elles ajustent des millions de paramètres pour diminuer une erreur, en descendant pas à pas, comme un randonneur dans le brouillard qui suit la pente. J'ai voulu comprendre cette méthode sur une fonction simple, et j'ai retrouvé une suite géométrique de mes cours de première.

L'enjeu et les notions du programme

Étudier une suite définie par récurrence qui utilise la dérivée, et déterminer à quelle condition elle converge vers le minimum.

Le plan de l'exposé en 9,5 min

1. 1. Introduction

   1 min

   Entraîner un modèle, c'est chercher les paramètres qui minimisent une erreur. Quand il n'y a pas de formule, on avance pas à pas dans la direction où l'erreur diminue. Problématique : comment fonctionne cette méthode, et à quelle condition aboutit-elle ?

2. 2. Mathématiques : une suite qui descend la pente

   4,5 min

   Le nombre dérivé $f^{\prime }(x)$f'(x) est la pente de la courbe en $x$x. Si elle est positive, la fonction monte vers la droite : il faut aller à gauche. D'où la règle $x_{n+1}=x_n-\eta f^{\prime }(x_n)$xₙ₊₁=xₙ-η f'(xₙ), où $\eta >0$η>0 est le pas, appelé taux d'apprentissage.

   Exemple : $f(x)=(x-3{)}^2$f(x)=(x-3)², minimale en 3, $f^{\prime }(x)=2(x-3)$f'(x)=2(x-3). La règle donne $x_{n+1}-3=(x_n-3)-2\eta (x_n-3)=(1-2\eta )(x_n-3)$xₙ₊₁-3=(xₙ-3)-2η(xₙ-3)=(1-2η)(xₙ-3). La suite $e_n=x_n-3$eₙ=xₙ-3 est géométrique de raison $q=1-2\eta$q=1-2η : $e_n=q^n{e}_0$eₙ=qⁿ e₀.

   Elle tend vers 0 si et seulement si $|q|<1$|q|<1, c'est-à-dire $0<\eta <1$0<η<1. Avec $\eta =0,1$η=0,1 : $q=0,8$q=0,8 ; partant de $x_0=0$x₀=0, $x_1=0,6$x₁=0,6, $x_2=1,08$x₂=1,08, $x_{10}\approx 2,68$x₁₀≈2,68. Avec $\eta =0,5$η=0,5 : $q=0$q=0, on atteint 3 en un pas. Avec $\eta =1,1$η=1,1 : $q=-1,2$q=-1,2, la suite oscille en s'éloignant : $6,6$6,6, $-1,32$-1,32… Elle diverge.

3. 3. NSI : à l'échelle des réseaux de neurones

   2,5 min

   Un réseau de neurones a des millions de paramètres ; on calcule la dérivée de l'erreur par rapport à chacun (le gradient) et on les corrige tous à la fois. Le programme est une simple boucle, répétée des milliers de fois sur les données.

   Trop petit, le pas rend l'apprentissage interminable ; trop grand, il le fait diverger. On le règle par essais, souvent en le diminuant au fil du temps. Sur une fonction non convexe, la descente peut aussi s'arrêter dans un minimum local qui n'est pas le meilleur.

4. 4. Conclusion

   1,5 min

   Une IA apprend en descendant la pente de son erreur : $x_{n+1}=x_n-\eta f^{\prime }(x_n)$xₙ₊₁=xₙ-η f'(xₙ). Sur $(x-3{)}^2$(x-3)², l'écart au minimum forme une suite géométrique de raison $1-2\eta$1-2η, qui converge seulement si $0<\eta <1$0<η<1. J'ouvre sur les minimums locaux, qui rendent l'apprentissage des grands réseaux délicat.

Ce que j'écris au tableau

Pas de calculatrice ni de support numérique : un calcul clé écrit au tableau rend l'exposé concret et montre la solidité des connaissances.

Conclusion : la réponse à la question

Les questions probables du jury

Pendant les 10 minutesd'échange, le jury vous fait préciser et approfondir, sur tout le programme de vos spécialités en lien avec la question.

Les pièges qui coûtent des points

• Ajouter la dérivée au lieu de la soustraire.
• Croire qu'un grand pas accélère toujours l'apprentissage.
• Oublier le cas η = 1, où la suite oscille sans converger.

Revoir les notions

• Dérivation locale (Première spé maths) →
• Suites arithmétiques et géométriques (Première spé maths) →

Autres questions : données et intelligence artificielle

• Comment une machine peut-elle classer une donnée nouvelle en regardant simplement ses voisines ?
• Pourquoi le résultat d'un algorithme d'intelligence artificielle peut-il changer si l'on mesure en millimètres plutôt qu'en centimètres ?
• Comment une machine trouve-t-elle la droite qui résume le mieux un nuage de points ?
• Pourquoi un neurone artificiel seul ne peut-il pas apprendre le « ou exclusif » ?

Toutes les questions maths-nsi →