Quelle est la différence mathématique entre l'utilisation d'une approche non informative a priori et d'une approche fréquentiste?

8

Les priors non informatifs sont préférés dans les cas où les préjugés ne sont pas acceptables (c.-à-d. Salles d'audience, etc.)

Cependant, il me semble qu'il serait tout simplement judicieux d'utiliser une approche fréquentiste à la place. Pourquoi l'approche bayésienne a-t-elle même un prior non informatif?

Merci!

bayesian prior uninformative-prior

— user154510
source

1

Dans de nombreuses situations, un a priori non informatif n'existe pas , car il dépend de la façon dont l'espace d'état est paramétré. Alors, quel "a priori non informatif" considérez-vous comme équivalent à une analyse non bayésienne?

— whuber

2

Même avec un a priori non informatif, l'inférence bayésienne est différente des approches fréquentistes. Par exemple, pensez à estimer la probabilité qu'une pièce de monnaie fera tourner les têtes. Prenez un uniforme avant le . Si nous observons un seul flip, et qu'il s'agit de têtes, la probabilité prédictive bayésienne que le prochain flip sera de têtes est de 2/3. Une approche de maximum de vraisemblance dirait que la probabilité est 1. Si vous voulez la dérivation de ce résultat, lisez l'inférence bayésienne, l'entropie et la distribution multinomiale . $\theta$ $\theta$

J'ai écrit plusieurs articles sur exactement ce sujet. Si vous voulez plus d'exemples, consultez: Pathologies des statistiques orthodoxes , déduction d'une distribution gaussienne et inférence bayésienne d'une distribution uniforme .

— Tom Minka
source

1

Je voudrais souligner que les "statistiques Frequentist" comprennent bien plus que le ML. En effet, le

2 / 3

$2/3$ est un estimateur fréquentiste valide (il est prouvé admissible, car il s'agit d'un estimateur bayésien!). Ce contraste d'estimateurs ne semble donc pas vraiment illustrer une quelconque différence entre les philosophies.

— whuber

1

Je suis d'accord avec @whuber et je pense qu'il vaut mieux penser que les estimateurs / algorithmes sont exempts de paradigme, la dérivation de l'estimateur étant motivée par tel ou tel paradigme et l'estimateur ayant telle ou telle propriété sous tel ou tel un tel paradigme. Je voudrais également ajouter que d'un point de vue fréquentiste l'estimateur minimax de

θ

$\theta$ dans votre exemple est

\frac{3}{4}

$\frac 3 4$ qui est d'accord avec le Jefferys avant.

— mec

1

C'est pour les puristes méthodologiques qui ne supportent pas d'utiliser des statistiques fréquentistes ennuyeuses avec toutes leurs incohérences "horribles" (oubliez le fait que les prieurs non informatifs sont souvent inappropriés!).

Sérieusement, cependant: une distribution postérieure bayésienne non informée ressemblera énormément à une fonction de vraisemblance normalisée, tandis qu'un fréquentiste rapporterait l'intervalle de confiance habituel. Étant donné que l'inférence fréquentiste n'obéit pas au «principe» de vraisemblance, les deux réponses peuvent être très différentes.

1

Pourriez-vous ajouter quelques exemples?

— Yehoshaphat Schellekens du