Outils :

Vous avez un site web ? Un blog ?

Netencyclo Directory Project

Mettre en favoris !

Technorati reactions
rencontre

Indépendance (probabilités)

Un article de Wikipédia, l'encyclopédie libre.

Aller à : Navigation, Rechercher

Cet article est une ébauche concernant les probabilités et les statistiques.

Vous pouvez partager vos connaissances en l’améliorant (comment ?) selon les recommandations des projets correspondants.

L'indépendance est une notion probabiliste qualifiant de manière intuitive des événements aléatoires n'ayant aucune influence l'un sur l'autre. Il s'agit d'une notion très importante en statistique et calcul de probabilités.

Par exemple, la valeur d'un premier lancer de dés n'a aucune influence sur la valeur du second lancer. De même, pour un lancer le fait d' obtenir une valeur inférieure ou égale à quatre n'influe en rien sur la probabilité que le résultat d'un prochain lancer soit pair ou impair ^[1]: les deux événements sont dits indépendants.

L'indépendance ou non de deux événements n'est pas toujours facile à établir.

[modifier] Notion d'indépendance

Deux événements A et B sont indépendants si et seulement si la réalisation de l'un n'influe pas sur les "chances" de réalisation de l'autre. En termes mathématiques, cela s'écrit :

Définition — A et B sont indépendants $\Leftrightarrow \Pr(A \cap B) = \Pr(A) \cdot \Pr(B)$

La notion peut être étendue à n événements : n événements sont dits indépendants si et seulement si toute combinaison de ces événements est indépendante. Cette notion est plus forte que n événements indépendants deux à deux.

Il y correspond le nombre total de conditions suivant

$C_{n}^{2} + C_{n}^{3} + ... + C_{n}^{n} = 2^{n} - (n+1)$ .

Si elles sont toutes vérifiées, on peut alors écrire

$\Pr(A_1 \cap \cdots \cap A_n)=\Pr(A_1)\,\cdots\,\Pr(A_n).$

[modifier] Evénements indépendants

La définition précédente fait référence aux événements indépendants. Dans ce cas, on peut également ajouter que la probabilité conditionnelle de A étant donné B est la même que la probabilité de A.

Théorème — A et B sont indépendants $\Leftrightarrow \Pr(A\mid B)=\Pr(A).\,$

Il existe deux bonnes raisons de ne pas prendre ce critère comme définition de l'indépendance.

Les deux événements A et B n'y jouent pas un rôle symétrique (on ne peut pas intervertir A et B sans remettre en question l'égalité).
La probabilité conditionnelle exclut que B soit de probabilité nulle. En effet, selon la définition de la probabilité conditionnelle:

Définition — $\Pr(A\mid B)={\Pr(A \cap B) \over \Pr(B)},$ (avec Pr(B) ≠ 0 )

Naturellement, nous retrouvons notre première définition

$\Pr(A \cap B)=\Pr(A)\Pr(B)$

Pour terminer, ajoutons que, contrairement au sens commun, un événement peut être indépendant par rapport à lui-même, s'il possède une probabilité de 1 ou de 0, comme le montre la définition

$\Pr(A) = \Pr(A \cap A) = \Pr(A)\Pr(A)\,$

[modifier] Variables aléatoires indépendantes

Ce qui précède donne une définition générale de l'indépendance. Maintenant, nous allons envisager le cas des variables aléatoires.

Soit y₁ et y₂ deux variables aléatoires (scalaires pour la simplicité). L'indépendance peut alors se définir via les densité de probabilités.

Soit p(y₁,y₂) la fonction de densité de probabilité (fdp) conjointe de y₁ et y₂,
p₁(y₁) la fdp marginale de y₁, c'est-à-dire

$p_{1}(y_{1}) = \int p(y_{1},y_{2}) \, dy_{2}$

et de même pour p₂(y₂)

Alors y₁ et y₂ sont indépendantes si et seulement si la ddp conjointe est factorisable comme suit

p (y 1, y 2) = p 1 (y 1) p 2 (y 2)

Cette définition s'étend naturellement pour n variables, et la densité conjointe sera alors un produit de n termes.

[modifier] Condition nécessaire d'indépendance

La définition ci-avant peut être utilisée pour dériver une conséquence importante de l'indépendance. Si X et Y sont des variables aléatoire, on a le théorème suivant:

Théorème — X et Y sont indépendants $\Rightarrow \operatorname{E}[X\cdot Y]=\operatorname{E}[X]\cdot \operatorname{E}[Y]$

On peut le généraliser en incluant des fonctions. Soit deux variables aléatoires indépendantes X et Y, et deux fonctions g et h, on peut toujours écrire

Théorème — $\operatorname{E}\left[g(X)\cdot h(Y)\right] = \operatorname{E}[g(X)]\cdot \operatorname{E}[h(Y)]$

Démonstration dans le cas de variables continues

$\begin{align} E[g(X)h(Y)] &= \int \int g(x)h(y)f(x,y) \, dx \, dy\\ &= \int \int g(x)f_X(x)h(y)f_Y(y) \, dx \, dy\\ &= \int g(x)f_X(x) \, dx \int h(y)f_{Y}(y) \, dy\\ &= E[g(x)] E[h(y)]\end{align}$

La démonstration est similaire pour le cas discret.

[modifier] Indépendance et corrélation

L'indépendance implique que la covariance, et donc la corrélation, entre les deux variables est nulle:

Théorème — X et Y sont indépendants $\Rightarrow \operatorname{Cov}(X,Y)=\operatorname{Corr}(X,Y)=0$

Démonstration

Cette propriété se déduit très facilement si l'on exprime la covariance comme: $\operatorname{cov}(X, Y) = E(X Y) - E(X)E(Y)$ . Comme on l'a vu, l'indépendance de X et Y entraîne que $E (X Y) = E (X) E (Y)$ et donc $\operatorname{cov}(X, Y) = E(X Y) - E(X)E(Y)=E(X)E(Y)-E(X)E(Y)=0$ .

L'inverse du théorème n'est pas forcément vrai, comme le montre l'exemple suivant:

Exemple :

Cet exemple est tiré de Ross (2004, p. 306)

Soit X une variable aléatoire discrète telle que $\Pr(X=0)=\Pr(X=1)=\Pr(X=-1)=\frac{1}{3}$ .

Définissons Y en relation avec X: $\begin{cases} 0 & \text{si } X\neq 0\\ 1 & \text{si } X= 0\\ \end{cases}$

On calcule $\operatorname{E}[XY]= \frac{1}{3}(0\cdot 1)+\frac{1}{3}(1\cdot 0)+\frac{1}{3}(-1\cdot 0)=0$ .

On voit aussi que $\operatorname{E}[X]= \frac{1}{3}(0)+\frac{1}{3}(1)+\frac{1}{3}(-1)=0+1-1=0$ .

et donc: $\operatorname{cov}(X, Y) = E(X Y) - E(X)E(Y)=0-0=0$ .

Pourtant les deux variables ne sont bien évidemment pas indépendantes!

La non-corrélation est une propriété plus faible que l'indépendance.

[modifier] Indépendance et information

Une autre façon d'appréhender cette notion d'indépendance entre deux événements est de passer par l'information (au sens de la théorie de l'information) : deux événements sont indépendants si l'information fournie par le premier événement ne donne aucune information sur le deuxième événement.

Soit à tirer deux boules (rouge et blanche) d'une urne. Si on réalise l'expérience sans remettre la boule tirée dans l'urne, et que la première boule tirée est rouge, on peut déduire de cette information que la deuxième boule tirée sera blanche. Les deux événements ne sont donc pas indépendants.

Par contre, si on remet la première boule dans l'urne avant un deuxième tirage, l'information du premier événement (la boule est rouge) ne nous donne aucune information sur la couleur de la deuxième boule. Les deux événements sont donc indépendants.

Cette approche est notamment utilisée en analyse en composantes indépendantes.

[modifier] Applications et utilisations

Analyse en composantes indépendantes

[modifier] Notes

↑ En effet $P(x\mod 2=0|x\in \{1,2,3,4\}) = \frac{1}{2} = P(x\mod 2=0|x\in \{1,2,3,4,5,6\})$

[modifier] Références

T.-A. Banh, Calcul des probabilités, Ed. ULg, 1995.
A. Hyvärinen, E. Oja, Independent Component Analysis, Neural Networks, 13(4-5):411-430, 2000.
Ross, Sheldon M (2004). Initiation Aux Probabilités, Trad. de la 4e éd. américaine, Lausanne: Presses polytechniques et universitaires romandes, 458.

rencontre

Indépendance (probabilités) - En savoir plus

Encyclopédie Recherche.fr - Indépendance (probabilités)

Rencontre Indépendance (probabilités) - Articles à la une

"Je rencontre quelques peines, je rencontre beaucoup de joie, c'est parfois une question de chance, souvent une rencontre de choix."

© 2008 Netencyclo - Netencyclo Home - Terms of Service - Privacy Policy - Program Policies
Netencyclo, the Wikipedia mirror : the biggest multilingual free-content encyclopedia on the Internet. Cet article, miroir de l'article de Wikipédia est conforme aux termes de la GFDL All Wikipedia content is licensed under the GNU Free Documentation License (see details). Content on this web site is provided for informational purposes only. We accept no responsibility for any loss, injury or inconvenience sustained by any person resulting from information published on this site. We encourage you to verify any critical information with the relevant authorities.

- Indépendance (probabilités) -