Comment un filtre anti-spam décide-t-il qu'un message est indésirable à partir des mots qu'il contient ?

Pourquoi cette question : un modèle d'introduction

Le jury attend que vous expliquiez pourquoi vous avez choisi la question. Inspirez-vous de ce modèle, mais racontez votre propre parcours.

Ma boîte mail range automatiquement certains messages dans les indésirables, et elle se trompe rarement. En NSI, j'ai appris qu'un des premiers filtres efficaces, proposé en 2002, reposait entièrement sur la formule de Bayes vue en probabilités conditionnelles. J'ai voulu refaire son calcul et comprendre l'hypothèse « naïve » sur laquelle il repose.

L'enjeu et les notions du programme

Appliquer la formule de Bayes à un problème de classification et discuter l'hypothèse d'indépendance.

Le plan de l'exposé en 9,5 min

1. 1. Introduction

   1 min

   Un filtre a appris, sur des messages déjà triés, la fréquence de chaque mot dans les spams et dans les messages normaux. Problématique : comment en déduire la probabilité qu'un nouveau message soit un spam ?

2. 2. Mathématiques : la formule de Bayes

   4,5 min

   Données apprises : $P(S)=0,4$P(S)=0,4 (proportion de spams), $P(G\mid S)=0,3$P(G| S)=0,3 (le mot « gratuit » dans un spam), $P(G\mid \bar{S})=0,02$P(G|bar S)=0,02.

   Par la formule de Bayes et les probabilités totales : $P(S\mid G)=\frac{P(S)P(G\mid S)}{P(S)P(G\mid S)+P(\bar{S})P(G\mid \bar{S})}=\frac{0,12}{0,12+0,012}\approx 0,91$P(S| G)=(P(S)P(G| S))/(P(S)P(G| S)+P(bar S)P(G|bar S))=0,12/(0,12+0,012)≈0,91.

   Avec un deuxième mot, « urgent » : $P(U\mid S)=0,2$P(U| S)=0,2, $P(U\mid \bar{S})=0,01$P(U|bar S)=0,01. On suppose que, sachant la catégorie, les mots apparaissent indépendamment : c'est l'hypothèse « naïve ». Alors $P(G\cap U\mid S)=0,3\times 0,2=0,06$P(G∩ U| S)=0,3×0,2=0,06 et $P(G\cap U\mid \bar{S})=0,02\times 0,01=0,0002$P(G∩ U|bar S)=0,02×0,01=0,0002. D'où $P(S\mid G\cap U)=\frac{0,4\times 0,06}{0,4\times 0,06+0,6\times 0,0002}=\frac{0,024}{0,02412}\approx 0,995$P(S| G∩ U)=0,4×0,06/(0,4×0,06+0,6×0,0002)=0,024/0,02412≈0,995.

   Chaque mot multiplie le rapport des chances par $\frac{P(\text{mot}\mid S)}{P(\text{mot}\mid \bar{S})}$(P( mot | S))/(P( mot |bar S)) : 15 pour « gratuit », 20 pour « urgent ».

3. 3. NSI : apprendre les fréquences

   2,5 min

   L'entraînement consiste à compter, dans des messages triés, la fréquence de chaque mot dans chaque catégorie, avec un dictionnaire Python. Le classement d'un nouveau message multiplie les rapports de ses mots ; pour éviter des nombres trop petits, on additionne plutôt leurs logarithmes.

   L'hypothèse d'indépendance est fausse (« offre » et « gratuite » vont souvent ensemble), mais le filtre fonctionne bien en pratique, car il suffit de bien classer, pas d'estimer exactement la probabilité. Il s'adapte à chaque utilisateur, qui l'améliore en signalant ses erreurs.

4. 4. Conclusion

   1,5 min

   Un filtre bayésien combine les indices apportés par chaque mot grâce à la formule de Bayes : « gratuit » seul donne 91 %, « gratuit » et « urgent » 99,5 %. L'hypothèse naïve d'indépendance simplifie tout, au prix d'une approximation. J'ouvre sur les spammeurs qui insèrent des mots anodins pour tromper ce calcul.

Ce que j'écris au tableau

Pas de calculatrice ni de support numérique : un calcul clé écrit au tableau rend l'exposé concret et montre la solidité des connaissances.

Conclusion : la réponse à la question

Les questions probables du jury

Pendant les 10 minutesd'échange, le jury vous fait préciser et approfondir, sur tout le programme de vos spécialités en lien avec la question.

Les pièges qui coûtent des points

• Confondre P(spam | mot) et P(mot | spam).
• Oublier le dénominateur des probabilités totales.
• Présenter l'hypothèse d'indépendance comme vraie.

Revoir les notions

• Probabilités conditionnelles (Première spé maths) →
• Probabilités conditionnelles et indépendance (Terminale spé maths) →

Autres questions : données et intelligence artificielle

• Comment une machine peut-elle classer une donnée nouvelle en regardant simplement ses voisines ?
• Pourquoi le résultat d'un algorithme d'intelligence artificielle peut-il changer si l'on mesure en millimètres plutôt qu'en centimètres ?
• Comment une machine trouve-t-elle la droite qui résume le mieux un nuage de points ?
• Comment une intelligence artificielle apprend-elle en corrigeant ses erreurs pas à pas ?

Toutes les questions maths-nsi →