Statistique exhaustive
Les statistiques exhaustives sont liées à la notion d'information et surtout à l'information de Fisher elles servent entre autres à perfectionner des estimateurs grâce à l'usage du Théorème de Rao-Blackwell et du Théorème de Lehman Scheffer.
Page(s) en rapport avec ce sujet :
- Toute l'information disponible pour l'estimation de la valeur de θ est contenue.... Etant données deux statistiques exhaustives T et S telles que T = f (S), ... Une statistique exhaustive est dite minimale si elle dépend de tout... (source : aiaccess)
- On retrouve les statistiques exhaustives en'ecrivant la vraisemblance du mod`... est ... Intuitivement une statistique exhaustive est une statistique qui, ... (source : bepdf)
- ... particulièrement puissant dans la recherche des statistiques exhaustives et on remarque... fonction injective d'une statistique exhaustive est toujours exhaustive, ... (source : books.google)
Les statistiques exhaustives sont liées à la notion d'information et surtout à l'information de Fisher elles servent entre autres à perfectionner des estimateurs grâce à l'usage du Théorème de Rao-Blackwell et du Théorème de Lehman Scheffer.
Intuitivement, parler d'une statistique exhaustive revient à dire que cette statistique contient la totalité de l'information sur le (s) paramètre (s) de la loi de probabilité.
Définition
Soit X un vecteur d'observation de taille n avec les Xi indépendant semblablement distribué (iid). Soit θ un paramètre influant sur la loi de probabilité à laquelle sont soumis les Xi. Une statistique S est dite exhaustive (pour le paramètre θ) si la probabilité conditionnelle d'observer X sachant S (X) est indépendante de θ. Cela peut se traduire par la formule suivante :
En pratique on se sert peu de cette formule pour montrer qu'une statistique est exhaustive et on préfère en règle générale utiliser le critère suivant nommé critère de factorisation (quelquefois aussi nommé critère de Fisher-Neyman) :
Soit fθ (x) la densité de probabilité du vecteur d'observation X. Une statistique S est exhaustive si et uniquement si il existe deux fonctions g et h telles que :
Un premier exemple : le modèle exponentiellement distribué
Si X est un vecteur d'observation de n variable iid de loi exponentielles et de paramètre θ alors est une statistique exhaustive.
En effet la densité de X est donné par : qui peut se factoriser comme :
.
Ici on a h (x) =1 mais ce n'est pas forcément le cas.
Distribution de Poisson
X1, ...., Xn iid de distribution de Poisson de paramètre λ, alors S (X) = X1 +... + Xn est une statistique exhaustive.
La densité de xi est :
La densité de x est le produit des densités des xi car ils sont iid donc :
Le critère de factorisation est satisfait avec
Information apportée par une statistique exhaustive
Dans le cadre de l'information de Fisher pour une statistique on a les deux résultats suivants :
- Pour une statistique exhaustive on a IS (θ) = I (θ) ce qui sert à voir une statistique exhaustive comme une statistique comprenant toute l'information du modèle. On a aussi la réciproque à savoir que si IS (θ) = I (θ) alors S est exhaustif quoique cette caractérisation soit rarement utilisée dans ce sens. La définition reposant sur le critère de factorisation des statistiques exhaustives est fréquemment plus maniable.
- Quelle que soit la statistique S,
avec un cas d'égalité seulement pour des statistiques exhaustives. On ne peut par conséquent récupérer plus d'information que celle contenue dans une statistique exhaustive. Ceci explique en grande partie l'intérêt des statistiques exhaustives pour l'estimation. La relation d'ordre est ici la relation d'ordre partielle sur les matrices symétriques à savoir qu'une matrice
si B-A est une matrice symétrique positive.
Recherche sur Amazon (livres) : |
Voir la liste des contributeurs.
La version présentée ici à été extraite depuis cette source le 07/04/2010.
Ce texte est disponible sous les termes de la licence de documentation libre GNU (GFDL).
La liste des définitions proposées en tête de page est une sélection parmi les résultats obtenus à l'aide de la commande "define:" de Google.
Cette page fait partie du projet Wikibis.