Pourquoi les prieurs de Jeffreys sont-ils considérés comme non informatifs?

Considérons un Jeffreys avant où , où est l'information de Fisher. $p(\theta) \propto \sqrt{|i(\theta)|}$ $i$

Je continue de voir cette priorité être mentionnée comme une priorité non informative, mais je n'ai jamais vu d'argument pourquoi elle n'est pas informative. Après tout, ce n'est pas un a priori constant, il doit donc y avoir un autre argument.

Je comprends que cela ne dépend pas de la reparamétrisation, ce qui m'amène à la question suivante. Est-ce que le déterminant de l'information de Fisher ne dépend pas de la reparamétrisation? Parce que les informations Fisher dépendent définitivement de la paramétrisation du problème.

Merci.

bayesian prior

— bayésien
source

Avez-vous lu l'article Wikipedia? en.wikipedia.org/wiki/Jeffreys_prior

— whuber

Oui, j'avais regardé là-bas. peut-être que je manque quelque chose, mais je ne pense pas que l'article de Wikipedia donne une réponse adéquate à mes questions.

— bayésien le

Voir aussi stats.stackexchange.com/questions/38962/…

— Stéphane Laurent

Notez que l'a priori de Jeffreys n'est pas invariant par rapport aux modèles équivalents. Par exemple, l'inférence sur un paramètre

est différente lors de l'utilisation de distributions d'échantillonnage binomiales ou négatives binomiales. Ceci en dépit du fait que les fonctions de vraisemblance sont proportionnelles et que le paramètre a la même signification dans les deux modèles.

p

$p$

— probabilityislogic

Réponses:

Il est considéré comme non informatif en raison de l'invariance de paramétrage. Vous semblez avoir l'impression qu'un a priori uniforme (constant) n'est pas informatif. Parfois c'est le cas, parfois non.

Ce qui se passe avec le précédent de Jeffreys dans une transformation est que le jacobien de la transformation est aspiré dans les informations Fisher d'origine, ce qui finit par vous donner les informations Fisher sous la nouvelle paramétrisation. Pas de magie (en mécanique du moins), juste un peu de calcul et d'algèbre linéaire.

— JMS
source

Je ne suis pas d'accord avec cette réponse. L'utilisation d'un a priori subjectif est également une procédure invariante de paramétrage!

— Stéphane Laurent

Le prieur de Jeffreys coïncide avec le prieur de référence de Bernardo pour l'espace paramétrique unidimensionnel (et les modèles "réguliers"). En gros, c'est le prieur pour lequel la divergence de Kullback-Leibler entre le prieur et le postérieur est maximale. Cette quantité représente la quantité d'informations apportées par les données. C'est pourquoi le prieur est considéré comme non informatif: c'est celui pour lequel les données apportent le maximum d'informations.

Soit dit en passant, je ne sais pas si Jeffreys était au courant de cette caractérisation de son prieur?

— Stéphane Laurent
source

"En gros, c'est le prieur pour lequel la divergence Kullback-Leibler entre le prieur et le postérieur est maximale." Intéressant, je ne le savais pas.

— Cam.Davidson.Pilon

(+1) Bonne réponse. Ce serait bien de voir quelques références de certains de vos points ( par exemple 1 , 2 ).

@Procrastinator J'écris actuellement un nouveau message sur les prieurs non informatifs;) Veuillez patienter, peut-être quelques jours.

— Stéphane Laurent

Je dirais que ce n'est pas absolument non informatif, mais peu informatif. Il code la connaissance antérieure (plutôt faible) selon laquelle vous savez que votre état de connaissance antérieur ne dépend pas de son paramétrage (par exemple les unités de mesure). Si votre état de connaissance antérieur était précisément nul, vous ne sauriez pas que votre a priori était invariant à de telles transformations.

— Dikran Marsupial
source

Je suis confus. Dans quel type de cas sauriez-vous que vous devez auparavant dépendre du paramétrage du modèle?

— John Lawrence Aspden

Si nous voulons prédire la longévité en fonction du poids corporel, en utilisant un GLM, nous savons que la conclusion ne devrait pas être affectée que nous pesions le sujet en kg ou lb; si vous utilisez un simple uniforme avant les poids, vous pourriez obtenir des résultats différents selon les unités de mesure.

— Dikran Marsupial

C'est un cas où vous savez que cela ne devrait pas être affecté. Dans quel cas faut-il?

— John Lawrence Aspden

Je pense que vous manquez mon point. Disons que nous ne savons rien des attributs, pas même qu'ils aient des unités de mesure auxquelles l'analyse devrait être invariante. Dans ce cas, votre prieur encoderait moins d' informations sur le problème que le prieur de Jeffrey, donc le prieur de Jeffrey n'est pas complètement informatif. Il peut ou non y avoir des situations où l'analyse ne devrait pas être invariante à une certaine transformation, mais c'est à côté du point.

— Dikran Marsupial

NB selon le livre de BUGS (p83), Jeffrey lui-même a qualifié ces prieurs invariants de transformation de "peu informatifs", ce qui implique qu'il les considérait comme encodant des informations sur le problème.

— Dikran Marsupial