Le théorème de Bayes

Ce que dit la formule

Soient $A$ et $B$ deux événements, avec $P(B) > 0$ et $P(A) > 0$ (cette seconde condition donne un sens à $P(B \mid A)$). Alors

• $P(A)$ : la probabilité de $A$ avant de savoir si $B$ s’est produit. On l’appelle souvent la probabilité a priori.
• $P(B \mid A)$ : la probabilité de $B$ sachant $A$, c’est-à-dire si l’on se restreint aux cas où $A$ est réalisé. On l’appelle parfois la vraisemblance.
• $P(B)$ : la probabilité totale de $B$.
• $P(A \mid B)$ : la probabilité de $A$ une fois que l’on sait que $B$ s’est produit, dite probabilité a posteriori.

Dans la pratique, on calcule souvent $P(B)$ par la formule des probabilités totales. Si $\bar{A}$ désigne le contraire de $A$ et si $0 < P(A) < 1$ :

Plus généralement, si les événements $A_1, \dots, A_n$ sont deux à deux incompatibles, de probabilités non nulles, et couvrent toutes les possibilités, alors pour chaque $k$ :

C’est la forme utilisée quand plusieurs explications sont en concurrence : chacune est pondérée par sa probabilité de départ et par la probabilité qu’elle donne à l’observation.

Le point essentiel : $P(A \mid B)$ et $P(B \mid A)$ sont deux nombres différents, et les confondre est une erreur très répandue.

Un exemple

Une maladie touche 1 % d’une population. Un test de dépistage la détecte chez 90 % des malades (sa sensibilité) ; chez les personnes saines, il donne à tort un résultat positif dans 5 % des cas (les faux positifs). Ces chiffres sont choisis pour l’exemple. Une personne prise au hasard a un test positif : quelle est la probabilité qu’elle soit malade ?

Notons $M$ l’événement « être malade » et $T$ l’événement « test positif ». On connaît $P(M) = 0{,}01$, $P(T \mid M) = 0{,}90$ et $P(T \mid \bar{M}) = 0{,}05$.

1. Probabilité d’un test positif : $P(T) = 0{,}90 \times 0{,}01 + 0{,}05 \times 0{,}99 = 0{,}009 + 0{,}049\,5 = 0{,}058\,5$.
2. Formule de Bayes : $P(M \mid T) = \dfrac{0{,}009}{0{,}058\,5} \approx 0{,}153\,8$.

Malgré un test positif, la personne n’a qu’environ 15,38 % de risque d’être malade. Le même calcul, en effectifs, sur 10 000 personnes :

• 100 sont malades, dont 90 ont un test positif ;
• 9 900 sont saines, dont 495 ont un test positif ;
• sur 585 tests positifs, seuls 90 concernent des malades, soit $90 / 585 \approx 15{,}38$ %.

Les faux positifs sont nombreux parce que les personnes saines sont beaucoup plus nombreuses. Si l’on refait un second test, en supposant que les deux résultats sont indépendants à état de santé fixé, la probabilité de départ devient 0,153 8… et un second résultat positif la porte à environ 76,59 %. Et si la maladie touchait 10 % de la population au lieu de 1 %, un seul test positif suffirait à donner environ 66,66 %. C’est pourquoi un test positif se confirme, et pourquoi la fréquence de la maladie compte autant que la qualité du test.

À l’inverse, un test négatif est ici très rassurant. Le test est négatif chez 10 % des malades et chez 95 % des personnes saines, donc $P(\bar{T}) = 0{,}10 \times 0{,}01 + 0{,}95 \times 0{,}99 = 0{,}941\,5$, et $P(M \mid \bar{T}) = \dfrac{0{,}001}{0{,}941\,5}$, environ 0,106 %. Avec ces chiffres, un résultat négatif rend la maladie très improbable, alors qu’un résultat positif laisse encore beaucoup d’incertitude : c’est la même formule, appliquée à deux observations différentes.

Pourquoi c’est vrai

La démonstration tient en deux lignes et repose sur la définition de la probabilité conditionnelle : pour $P(B) > 0$, $P(A \mid B) = \frac{P(A \cap B)}{P(B)}$, où $A \cap B$ est l’événement « $A$ et $B$ à la fois ».

1. De même, comme $P(A) > 0$, $P(B \mid A) = \frac{P(A \cap B)}{P(A)}$, donc $P(A \cap B) = P(B \mid A)\, P(A)$.
2. On remplace $P(A \cap B)$ dans la première égalité : $P(A \mid B) = \frac{P(B \mid A)\, P(A)}{P(B)}$.

La formule des probabilités totales vient du fait que $B$ se découpe en deux morceaux disjoints, $B \cap A$ et $B \cap \bar{A}$, dont on additionne les probabilités.

Un peu d’histoire

Thomas Bayes (vers 1701-1761) est un pasteur presbytérien anglais, également mathématicien. Il ne publie pas de son vivant le travail qui porte son nom. Après sa mort, son ami Richard Price met en forme ses notes ; l’essai, intitulé An Essay towards solving a Problem in the Doctrine of Chances, est lu devant la Royal Society le 23 décembre 1763 et paraît dans les Philosophical Transactions (volume 53, daté de 1763). Bayes y cherche à estimer une proportion inconnue à partir d’observations, et non à énoncer la formule sous sa forme actuelle.

Pierre-Simon de Laplace obtient des résultats du même type en 1774, apparemment sans connaître l’essai de Bayes, puis les développe dans sa Théorie analytique des probabilités (1812). La forme moderne de l’énoncé s’est fixée ensuite. Au XXe siècle, la démarche « bayésienne », qui traite les probabilités comme des degrés de confiance révisés au fil des données, est devenue l’une des grandes écoles de la statistique.

Ce que montre l’affiche

Le dessin est un carré d’aire 1 qui représente toutes les possibilités. Une verticale le coupe en deux : à gauche $A$, qui occupe 30 % de la largeur, à droite son contraire $\bar{A}$. Les zones colorées forment l’événement $B$ : 80 % de la hauteur dans la colonne $A$, 25 % dans l’autre. Leur aire totale vaut $0{,}3 \times 0{,}8 + 0{,}7 \times 0{,}25 = 0{,}415$, et la part de $B$ qui tombe dans $A$ vaut $0{,}24 / 0{,}415 \approx 0{,}578$ : c’est exactement $P(A \mid B)$. L’affiche existe en quatre styles : Papier, Nuit, Bauhaus et Tableau noir.

Pour aller plus loin

• La loi normale, l’autre grande formule des probabilités.
• Le triangle de Pascal, qui compte les issues de lancers répétés, comme dans le problème étudié par Bayes.

Sources : Théorème de Bayes (Wikipédia) (nouvel onglet), Bayes’ theorem (Wikipedia) (nouvel onglet), Bayes’ Theorem (MathWorld) (nouvel onglet), Bayes’ Theorem (Stanford Encyclopedia of Philosophy) (nouvel onglet), biographie de Thomas Bayes (MacTutor) (nouvel onglet).