Statistique exhaustive

Les statistiques exhaustives sont liées à la notion d'information et surtout à l'information de Fisher elles servent entre autres à perfectionner des estimateurs grâce à l'usage du Théorème de Rao-Blackwell et du Théorème de Lehman Scheffer.

Catégories :

Estimation (statistique) - Statistiques

Page(s) en rapport avec ce sujet :

Toute l'information disponible pour l'estimation de la valeur de θ est contenue.... Etant données deux statistiques exhaustives T et S telles que T = f (S), ... Une statistique exhaustive est dite minimale si elle dépend de tout... (source : aiaccess)
On retrouve les statistiques exhaustives en'ecrivant la vraisemblance du mod`... est ... Intuitivement une statistique exhaustive est une statistique qui, ... (source : bepdf)
... particulièrement puissant dans la recherche des statistiques exhaustives et on remarque... fonction injective d'une statistique exhaustive est toujours exhaustive, ... (source : books.google)

Les statistiques exhaustives sont liées à la notion d'information et surtout à l'information de Fisher elles servent entre autres à perfectionner des estimateurs grâce à l'usage du Théorème de Rao-Blackwell et du Théorème de Lehman Scheffer.

Intuitivement, parler d'une statistique exhaustive revient à dire que cette statistique contient la totalité de l'information sur le (s) paramètre (s) de la loi de probabilité.

Définition

Soit $X$ un vecteur d'observation de taille n avec les $X i$ indépendant semblablement distribué (iid). Soit $θ$ un paramètre influant sur la loi de probabilité à laquelle sont soumis les $X i$ . Une statistique S est dite exhaustive (pour le paramètre $θ$ ) si la probabilité conditionnelle d'observer X sachant S (X) est indépendante de $θ$ . Cela peut se traduire par la formule suivante :

$\mathbb{P}(X=x|S(X)=s,\theta) = \mathbb{P}(X=x|S(X)=s), \,$

En pratique on se sert peu de cette formule pour montrer qu'une statistique est exhaustive et on préfère en règle générale utiliser le critère suivant nommé critère de factorisation (quelquefois aussi nommé critère de Fisher-Neyman) :

Soit $f θ (x)$ la densité de probabilité du vecteur d'observation $X$ . Une statistique S est exhaustive si et uniquement si il existe deux fonctions g et h telles que :

$f_\theta(x)=h(x) \, g(\theta,S(x)), \,\!$

Un premier exemple : le modèle exponentiellement distribué

Si X est un vecteur d'observation de n variable iid de loi exponentielles et de paramètre $θ$ alors $S(X)=\sum_{i=1}ˆn X_i$ est une statistique exhaustive.

En effet la densité de X est donné par : $f_\theta(x)=\Pi _{i=1}ˆn eˆ{\frac{x_i}{\theta}}$ qui peut se factoriser comme : $f_\theta(x)= eˆ{\frac{\sum _{i=1}ˆn x_i}{\theta}}=eˆ{\frac{S(x)}{\theta}}$ .

Ici on a h (x) =1 mais ce n'est pas forcément le cas.

Distribution de Poisson

X₁, ...., X_n iid de distribution de Poisson de paramètre λ, alors S (X) = X₁ +... + X_n est une statistique exhaustive.

La densité de $x i$ est : ${eˆ{-\lambda} \lambdaˆ{x_i} \over x_1 !} \cdot$

La densité de x est le produit des densités des $x i$ car ils sont iid donc : $eˆ{-n\lambda} \lambdaˆ{(x_1+x_2+\cdots+x_n)} \cdot {1 \over x_1 ! x_2 !\cdots x_n ! } \,\!$

Le critère de factorisation est satisfait avec $h(x)={1 \over x_1 ! x_2 !\cdots x_n ! } \,\!$

Information apportée par une statistique exhaustive

Dans le cadre de l'information de Fisher pour une statistique on a les deux résultats suivants :

Pour une statistique exhaustive on a $I S (θ) = I (θ)$ ce qui sert à voir une statistique exhaustive comme une statistique comprenant toute l'information du modèle. On a aussi la réciproque à savoir que si $I S (θ) = I (θ)$ alors S est exhaustif quoique cette caractérisation soit rarement utilisée dans ce sens. La définition reposant sur le critère de factorisation des statistiques exhaustives est fréquemment plus maniable.

Quelle que soit la statistique S, $I_{S}(\theta)\leq I(\theta)$ avec un cas d'égalité seulement pour des statistiques exhaustives. On ne peut par conséquent récupérer plus d'information que celle contenue dans une statistique exhaustive. Ceci explique en grande partie l'intérêt des statistiques exhaustives pour l'estimation. La relation d'ordre est ici la relation d'ordre partielle sur les matrices symétriques à savoir qu'une matrice $A\leq B$ si B-A est une matrice symétrique positive.

Recherche sur Amazon (livres) :

Ce texte est issu de l'encyclopédie Wikipedia. Vous pouvez consulter sa version originale dans cette encyclopédie à l'adresse http://fr.wikipedia.org/wiki/Statistique_exhaustive.
Voir la liste des contributeurs.
La version présentée ici à été extraite depuis cette source le 07/04/2010.
Ce texte est disponible sous les termes de la licence de documentation libre GNU (GFDL).
La liste des définitions proposées en tête de page est une sélection parmi les résultats obtenus à l'aide de la commande "define:" de Google.
Cette page fait partie du projet Wikibis.