Formulaire de probabilités et de statistiques : lois usuelles, moyenne et écart type

Quelles sont les règles de calcul des probabilités ?

Une probabilité est un nombre entre 0 et 1, avec $P(\Omega) = 1$ pour l’univers entier et $P(\varnothing) = 0$. Pour deux événements $A$ et $B$ :

La formule à trois événements est un cas de la formule du crible (nouvel onglet) de Poincaré. Exemple : en tirant une carte d’un jeu de 52, la probabilité d’obtenir un cœur ou une figure (valet, dame, roi) vaut $\frac{13}{52} + \frac{12}{52} - \frac{3}{52} = \frac{22}{52} = \frac{11}{26} \approx 0{,}423$, car trois figures sont des cœurs.

Comment calculer une probabilité conditionnelle ?

La probabilité de $A$ sachant $B$, notée $P(A \mid B)$ ou $P_B(A)$, est définie quand $P(B) > 0$ par

C’est la probabilité de $A$ quand on sait que $B$ est réalisé : l’univers se réduit à $B$. On en tire la formule des probabilités composées, $P(A \cap B) = P(B)\,P(A \mid B)$, celle qu’on lit le long d’une branche d’arbre.

Exemple. On lance deux dés et l’on sait qu’au moins un 6 est sorti : 11 issues sur 36. Parmi elles, 7 donnent une somme d’au moins 9. Donc $P(\text{somme} \geq 9 \mid \text{un 6}) = \frac{7/36}{11/36} = \frac{7}{11} \approx 0{,}636$.

Quelle est la formule des probabilités totales ?

Si les événements $A_1, \ldots, A_n$ forment une partition de l’univers (ils sont incompatibles deux à deux, leur réunion est $\Omega$, et chacun a une probabilité non nulle), alors pour tout événement $B$ :

Dans un arbre, on additionne les probabilités de tous les chemins qui mènent à $B$ (probabilités totales (nouvel onglet)).

Quelle est la formule de Bayes ?

Le théorème de Bayes renverse une probabilité conditionnelle. Si $P(A) > 0$ et $P(B) > 0$ :

et, avec une partition $A_1, \ldots, A_n$ : $P(A_k \mid B) = \frac{P(B \mid A_k)\,P(A_k)}{\sum_j P(B \mid A_j)\,P(A_j)}$.

Exemple. Une machine A fabrique 60 % des pièces d’un atelier, avec 2 % de pièces défectueuses ; une machine B fabrique les 40 % restants, avec 5 % de défauts. La probabilité qu’une pièce soit défectueuse vaut $P(D) = 0{,}6 \times 0{,}02 + 0{,}4 \times 0{,}05 = 0{,}032$. Une pièce défectueuse vient de la machine A avec la probabilité $\frac{0{,}012}{0{,}032} = 0{,}375$ : bien que A fabrique la majorité des pièces, elle ne fournit que 37,5 % des défauts.

Quand deux événements sont-ils indépendants ?

$A$ et $B$ sont indépendants quand $P(A \cap B) = P(A)\,P(B)$. Si $P(B) > 0$, cela revient à $P(A \mid B) = P(A)$ : savoir que $B$ est réalisé ne change pas la probabilité de $A$. Si $A$ et $B$ sont indépendants, $A$ et $\bar{B}$ le sont aussi.

Attention : incompatibles ne veut pas dire indépendants. Deux événements incompatibles de probabilités non nulles ne sont jamais indépendants, puisque $P(A \cap B) = 0$ alors que $P(A)\,P(B) > 0$.

Quelles formules de dénombrement faut-il connaître ?

On a $\binom{n}{k} = \binom{n}{n - k}$, $\sum_{k=0}^{n}\binom{n}{k} = 2^n$, et la relation du triangle de Pascal : $\binom{n+1}{k} = \binom{n}{k-1} + \binom{n}{k}$.

Comment calculer l’espérance et la variance d’une variable aléatoire ?

Pour une variable discrète prenant les valeurs $x_i$ avec les probabilités $p_i$ : $E(X) = \sum_i x_i\,p_i$ (espérance). Pour une variable de densité $f$ : $E(X) = \int_{-\infty}^{+\infty} x\,f(x)\,\mathrm{d}x$. La variance est la moyenne des carrés des écarts à l’espérance.

Les pages de l’espérance et de la variance proposent une calculatrice.

Quelles sont les lois de probabilité usuelles, leur espérance et leur variance ?

Paramètres : $0 < p < 1$ pour les lois de Bernoulli, binomiale et géométrique (on admet aussi $p = 0$ ou $1$ pour les deux premières), $\lambda > 0$, $a < b$, $\sigma > 0$. Pour la loi normale, la notation $\mathcal{N}(\mu, \sigma^2)$ donne la variance en second paramètre ; certains ouvrages écrivent l’écart type.

Que faut-il savoir de plus sur chaque loi ?

• Binomiale : nombre de succès en $n$ épreuves de Bernoulli indépendantes de même paramètre $p$ (la loi binomiale, avec calculatrice). En 10 lancers d’une pièce équilibrée, $P(X = 5) = \frac{252}{1\,024} \approx 0{,}246$ et $P(X \geq 8) = \frac{45 + 10 + 1}{1\,024} \approx 0{,}054\,7$.
• Géométrique : rang du premier succès. $P(X > k) = (1 - p)^k$, et la loi est sans mémoire : $P(X > m + k \mid X > m) = P(X > k)$. Pour le premier 6 au dé, $E(X) = 6$, $V(X) = 30$ et $P(X > 6) = \left(\frac{5}{6}\right)^6 \approx 0{,}335$. Si l’on compte plutôt le nombre d’échecs avant le premier succès (valeurs $0, 1, 2, \ldots$), l’espérance devient $\frac{1 - p}{p}$ et la variance ne change pas.
• Poisson : nombre d’événements rares survenant au hasard, en moyenne $\lambda$ fois (la loi de Poisson). Elle approche la binomiale $\mathcal{B}(n, \frac{\lambda}{n})$ quand $n$ est grand. Pour $\lambda = 3$ : $P(X = 0) = e^{-3} \approx 0{,}049\,8$, $P(X = 2) \approx 0{,}224$ et $P(X \leq 2) \approx 0{,}423$.
• Uniforme sur $[a\,;b]$ : $P(c \leq X \leq d) = \frac{d - c}{b - a}$ pour $a \leq c \leq d \leq b$.
• Exponentielle : durée de vie sans vieillissement. $P(X > t) = e^{-\lambda t}$ pour $t \geq 0$, et elle aussi est sans mémoire : $P(X > t + h \mid X > t) = P(X > h)$. Pour $\lambda = 0{,}5$, $E(X) = 2$ et $P(X > 3) = e^{-1{,}5} \approx 0{,}223$.
• Normale (la loi normale) : si $X$ suit $\mathcal{N}(\mu, \sigma^2)$, alors $Z = \frac{X - \mu}{\sigma}$ suit $\mathcal{N}(0, 1)$. On retient $P(\lvert X - \mu\rvert \leq \sigma) \approx 0{,}683$, $P(\lvert X - \mu\rvert \leq 2\sigma) \approx 0{,}954$, $P(\lvert X - \mu\rvert \leq 3\sigma) \approx 0{,}997$, et $P(\lvert Z\rvert \leq 1{,}96) \approx 0{,}95$, $P(\lvert Z\rvert \leq 2{,}576) \approx 0{,}99$.

Quelles sont les formules de statistiques descriptives ?

Pour une série de $n$ valeurs $x_1, \ldots, x_n$ :

La médiane partage la série en deux : au moins la moitié des valeurs lui sont inférieures ou égales, et au moins la moitié supérieures ou égales. D’autres conventions existent pour une série de taille paire (Médiane (nouvel onglet), Wikipédia).

Faut-il diviser par n ou par n − 1 pour l’écart type ?

• Par $n$ quand la série est toute la population étudiée, ou quand on veut seulement la décrire : c’est $\sigma$.
• Par $n - 1$ quand la série est un échantillon et qu’on veut estimer la variance de la population dont il est tiré : c’est $s$. En moyenne, $s^2$ tombe juste (on dit qu’il est sans biais), alors que la division par $n$ sous-estime la variance d’un facteur $\frac{n - 1}{n}$ (correction de Bessel (nouvel onglet)). L’écart type $s$ lui-même reste légèrement trop petit en moyenne.

Dans Excel, la fonction ECARTYPE.PEARSON divise par $n$ et ECARTYPE.STANDARD par $n - 1$ ; sur les calculatrices, les deux résultats sont en général affichés côte à côte, sous des noms comme $\sigma_x$ et $s_x$ selon les modèles. Pour de grandes séries, l’écart entre les deux devient négligeable.

Un exemple complet de statistiques

Notes d’un groupe de 8 élèves : 8, 12, 15, 11, 14, 9, 16, 13.

• Moyenne : $\bar{x} = \frac{98}{8} = 12{,}25$.
• Médiane : la série rangée est 8, 9, 11, 12, 13, 14, 15, 16 ; $n$ est pair, donc la médiane vaut $\frac{12 + 13}{2} = 12{,}5$.
• Variance : $\sum (x_i - \bar{x})^2 = 55{,}5$, donc $V = \frac{55{,}5}{8} = 6{,}937\,5$ et $\sigma \approx 2{,}63$.
• Si ces 8 élèves sont un échantillon d’une classe plus grande : $s^2 = \frac{55{,}5}{7} \approx 7{,}93$ et $s \approx 2{,}82$.

Deux variables : covariance et droite de régression

Pour une série double $(x_i\,;y_i)$, la covariance vaut $\text{cov}(x, y) = \frac{1}{n}\sum (x_i - \bar{x})(y_i - \bar{y}) = \frac{1}{n}\sum x_i y_i - \bar{x}\,\bar{y}$. La droite des moindres carrés $y = ax + b$ a pour coefficients

et passe par le point moyen $(\bar{x}\,;\bar{y})$ ; voir la régression linéaire.

Comment ces formules ont-elles été vérifiées ?

Chaque formule de cette page a été contrôlée par un programme de deux façons : par le calcul exact, sur des centaines d’univers finis et de lois tirés au hasard (règles de calcul, Bayes, indépendance, espérances et variances par sommes ou par intégration numérique), et par la simulation, en reproduisant les expériences des centaines de milliers de fois avec un mécanisme indépendant de la formule testée : compter les arrivées d’un processus aléatoire pour la loi de Poisson, attendre le premier succès pour la loi géométrique, tirer 200 000 échantillons pour l’écart type avec $n - 1$. Toutes les fréquences observées restent dans les marges attendues du hasard.

Pour aller plus loin

• Le théorème central limite explique pourquoi la loi normale apparaît dès qu’on additionne beaucoup de petits effets indépendants ; l’intégrale de Gauss donne la constante $\sqrt{2\pi}$ de sa densité.
• Les intégrales des lois à densité se calculent avec le tableau des dérivées et primitives.
• La courbe en cloche, la formule de Bayes et la loi binomiale existent en affiche, en style Bauhaus, Papier, Nuit ou Tableau noir, parmi nos affiches mathématiques ; une idée pour un cadeau scientifique.

Références : la galerie des lois de probabilité (nouvel onglet) du manuel de statistique du NIST, et les articles Loi géométrique (nouvel onglet), Loi exponentielle (nouvel onglet) et Loi de Poisson (nouvel onglet) de Wikipédia.