Les Bayésiens soutiennent-ils jamais qu'il existe des cas dans lesquels leur approche se généralise / recoupe avec l'approche fréquentiste?

Les bayésiens soutiennent-ils que leur approche généralise l'approche fréquentiste, parce que l'on peut utiliser des priors non informatifs et donc, récupérer une structure de modèle fréquentiste typique?

Quelqu'un peut-il me référer à un endroit où je pourrai lire cet argument, s'il est effectivement utilisé?

EDIT: Cette question n'est peut-être pas formulée exactement comme je voulais la formuler. La question est: "y a-t-il une référence à la discussion des cas dans lesquels l'approche bayésienne et l'approche fréquentiste se chevauchent / se croisent / ont quelque chose en commun en utilisant un certain a priori?" Un exemple serait d'utiliser le mauvais , mais je suis sûr que ce n'est que la pointe de la pointe de l'iceberg.$p(\theta) = 1$

J'ai vu avancer deux arguments selon lesquels l'analyse bayésienne est une généralisation d'une analyse fréquentiste. Les deux étaient quelque peu ironiques, et poussaient davantage les gens à reconnaître les hypothèses sur les modèles de régression en utilisant les a priori comme contexte.

Argument 1: L'analyse fréquentiste est une analyse bayésienne avec un a priori purement informatif centré sur zéro (oui, peu importe où elle est centrée, mais ignorez cela). Cela fournit à la fois le contexte pour lequel un bayésien pourrait extraire les résultats d'une analyse fréquentiste, explique pourquoi vous pouvez vous en tirer en utilisant certaines techniques "bayésiennes" comme MCMC pour extraire des estimations fréquentistes dans des situations où, par exemple, la convergence de probabilité maximale est difficile, et obtient les gens à reconnaître que lorsqu'ils disent «les données parlent d'eux-mêmes» et autres, ce qu'ils disent en fait, c'est qu'auparavant, toutes les valeurs sont également probables.

Argument 2: Tout terme de régression que vous n'incluez pas dans un modèle a, en effet, reçu une priorité centrée sur zéro sans variance. Celui-ci n'est pas tant un argument "L'analyse bayésienne est une généralisation" que l' argument "Il y a des priors partout , même dans vos modèles fréquentistes".

La réponse courte est probablement "oui - et vous n'avez même pas besoin d'un plat avant pour que cet argument soit valable."

Par exemple, l' estimation Maximum A Posteriori (MAP) est une généralisation de la probabilité maximale qui comprend un avant, et il y a des approches fréquentistes qui sont analytiquement équivalent à trouver cette valeur. Le fréquentiste rebaptise "le prieur" comme une "contrainte" ou une "pénalité" sur la fonction de vraisemblance, et obtient la même réponse. Les fréquentistes et les bayésiens peuvent donc tous deux indiquer la même chose comme étant leur meilleure estimation des paramètres, même si les philosophies sont différentes. La section 5 de cet article fréquentiste est un exemple où ils sont équivalents.

La réponse la plus longue ressemble plus à «oui, mais il y a souvent d'autres aspects de l'analyse qui distinguent les deux approches. Pourtant, même ces distinctions ne sont pas nécessairement étanches dans de nombreux cas».

Par exemple, bien que les bayésiens utilisent parfois l'estimation MAP (mode postérieur) quand cela est pratique, ils mettent généralement l'accent sur la moyenne postérieure à la place. D'un autre côté, la moyenne postérieure a également un analogue fréquentiste, appelé l'estimation "bagged" (de "bootstrap agrégation") qui peut être presque impossible à distinguer (voir ce pdf pour un exemple de cet argument). Ce n'est donc pas vraiment une distinction "difficile" non plus.

En pratique, tout cela signifie que même lorsqu'un fréquentiste fait quelque chose qu'un bayésien considérerait comme totalement illégal (ou vice versa), il y a souvent (au moins en principe) une approche de l'autre camp qui donnerait presque le même anser.

La principale exception est que certains modèles sont vraiment difficiles à adapter d'un point de vue fréquentiste, mais il s'agit davantage d'un problème pratique que philosophique.

Edwin Jaynes a été l'un des meilleurs à mettre en évidence les liens entre l'inférence bayésienne et fréquentiste. Ses intervalles de confiance papier vs intervalles bayésiens (la recherche Google le fait apparaître) comme une comparaison très approfondie - et je pense que c'est juste.

L'estimation sur petits domaines est un autre domaine où les réponses ML / REML / EB / HB ont tendance à être proches.

Beaucoup de ces commentaires supposent que «fréquentiste» signifie «estimation du maximum de vraisemblance». Certaines personnes ont une définition différente: «fréquentiste» signifie un type d'analyse des propriétés inférentielles à long terme de toute méthode d'inférence - que ce soit bayésien, ou méthode des moments, ou probabilité maximale, ou quelque chose exprimé en termes non probabilistes termes (par exemple SVM), etc.

J'aimerais entendre Stéphane ou un autre expert bayésien à ce sujet. Je dirais non parce que c'est une approche différente et non une généralisation. Dans un autre contexte, cela a déjà été expliqué ici. Ne pensez pas que ce n'est pas parce que les a priori plats produisent des résultats proches de la probabilité maximale qu'une méthode bayésienne avec un a priori plat soit fréquentiste! Je pense que ce serait une fausse présomption qui vous amènerait à penser qu'en rendant l'arbitraire préalable vous généralisez à d'autres prieurs possibles. Je ne pense pas de cette façon et je suis sûr que la plupart des Bayésiens non plus.

Donc, certaines personnes le contestent, mais je ne pense pas qu'elles devraient être classées comme Bayésiennes

bien que Stéphane ait souligné la difficulté d'un classement fort. Donc, à strictement parler, si le mot est un jour, je suppose que cela pourrait dépendre de la façon dont vous définissez le bayésien.