Définition fréquentiste de la probabilité; existe-t-il une définition formelle?

Existe-t-il une définition formelle (mathématique) de ce que les fréquentistes entendent par «probabilité»? J'ai lu que c'est la fréquence relative d'occurrence «à long terme», mais existe-t-il un moyen formel de la définir? Y a-t-il des références connues où je peux trouver cette définition?

ÉDITER:

Par fréquentiste (voir le commentaire de @whuber et mes commentaires sur la réponse @Kodiologist et @Graeme Walsh ci-dessous), je veux dire ceux qui «croient» que cette fréquence relative à long terme existe. Peut-être que cela répond (en partie) à la question de @Tim également

probability frequentist definition

Veuillez expliquer ce que vous entendez par «Frequentist». Les utilisations que j'ai vues dans d'autres discussions indiquent que beaucoup de gens n'ont pas de sens cohérent ou clair de ce que ce terme pourrait signifier. Une définition aiderait donc à garder toutes les réponses pertinentes.

— whuber

@whuber Je suppose que la définition du fréquentiste est "non bayésien" et du bayésien est "non fréquentiste" dans la plupart des cas :)

— Tim

Étroitement liés: en.wikipedia.org/wiki/Empirical_probability

— Silverfish

J'allais dire que cette stats.stackexchange.com/a/230943/113090 vous intéresserait probablement, mais j'ai réalisé que vous êtes la personne qui a posté cette réponse, alors tant pis. Quoi qu'il en soit, votre processus de réflexion pourrait intéresser d'autres personnes qui ont également la même question que vous (par exemple moi) "existe-t-il une définition fréquentiste formelle de la probabilité"

— Chill2Macht

Je ne suis pas sûr d'avoir l'énergie nécessaire pour écrire une réponse moi-même, mais je voudrais laisser ici le même lien vers l'entrée de la Stanford Encyclopedia of Philosophy sur les interprétations des probabilités que j'ai publiée sous votre réponse dans le fil connexe. La section sur l'interprétation / définition fréquentiste est une bonne lecture. Il parle en détail de divers problèmes conceptuels avec des tentatives pour donner une définition fréquentiste de la probabilité.

— amoeba

Réponses:

TL; DR Il ne semble pas possible de définir une définition fréquentiste de probabilité cohérente avec le cadre de Kolmogorov qui ne soit pas complètement circulaire (c'est-à-dire au sens de la logique circulaire).

Pas trop longtemps donc j'ai lu: je veux aborder ce que je considère comme des problèmes potentiels avec la définition fréquentiste candidate de la probabilité Tout d'abord, ne peut être raisonnablement interprétée que comme une variable aléatoire, de sorte que l'expression ci-dessus n'est pas précisément définie dans un sens rigoureux. Il faut préciser le mode de convergence de cette variable aléatoire, que ce soit presque sûrement, en probabilité, en distribution, en moyenne, ou en moyenne au carré.

lim_{n \to \infty} \frac{n_{A}}{n}

$\underset{n \to \infty}{\lim} \frac{n_A}{n}$

n_{A}

$n_A$

Mais toutes ces notions de convergence nécessitent qu'une mesure sur l'espace de probabilité à définir soit significative. Le choix intuitif, bien sûr, serait de choisir presque sûrement la convergence. Cela a pour caractéristique que la limite doit exister ponctuellement, sauf en cas de mesure nulle. Ce qui constitue un ensemble de mesures nul coïncidera pour toute famille de mesures qui sont absolument continues les unes par rapport aux autres - cela nous permet de définir une notion de convergence presque sûre rendant rigoureuse la limite ci-dessus tout en restant quelque peu agnostique quant à ce que le sous-jacent mesure pour l'espace mesurable des événements est (c'est-à-dire parce qu'il pourrait s'agir de n'importe quelle mesure absolument continue par rapport à une mesure choisie). Cela empêcherait la circularité de la définition qui résulterait de la fixation préalable d'une mesure donnée,

Cependant, si nous utilisons une convergence presque sûre, cela signifie que nous nous limitons à la situation de la loi forte des grands nombres (désormais SLLN). Permettez-moi d'énoncer ce théorème (comme donné à la p. 133 de Chung) pour référence ici:

Soit une séquence de variables aléatoires indépendantes et distribuées de manière identique. Ensuite, nous avons où . $\{X_n\}$
$E | X_{1} | < \infty ⟹ \frac{S_{n}}{n} \to E (X_{1}) a . s .$ $\mathbb{E}|X_1| < \infty \implies \frac{S_n}{n} \to \mathbb{E}(X_1)\quad a.s.$ $E | X_{1} | = \infty ⟹ \underset{n \to \infty}{lim sup} \frac{| S_{n} |}{n} = + \infty a . s .$ $\mathbb{E}|X_1| = \infty \implies \underset{n \to \infty}{\lim\sup}\frac{|S_n|}{n} = + \infty \quad a.s.$ $S_n:= X_1 + X_2 + \dots + X_n$

Disons donc que nous avons un espace mesurable et nous voulons définir la probabilité d'un événement par rapport à une famille de mesures de probabilité mutuellement absolument continues . Ensuite, par le théorème d'extension de Kolmogorov ou le théorème d'extension Ionescu Tulcea (je pense que les deux fonctionnent), nous pouvons construire une famille d'espaces de produits , un pour chaque . (Notez que l'existence d'espaces de produits infinis qui est une conclusion du théorème de Kolmogorov nécessite que la mesure de chaque espace soit , c'est pourquoi je me limite maintenant aux mesures de probabilité, au lieu d'arbitraires). Définissez ensuite $(X, \mathscr{F})$ $A \in \mathscr{F}$ $\{\mu_i\}_{i \in I}$ $\{(\prod_{j=1}^{\infty} X_j)_i\}_{i \in I}$ $\mu_i$ $1$ $\mathbb{1}_{A_j}$ pour être la variable aléatoire indicatrice, c'est-à-dire qui est égale à si apparaît dans la ème copie et si ce n'est pas le cas, en d'autres termesAlors clairement (où dénote une attente par rapport à ), donc la loi forte des grands nombres sera en fait appliquer à (car par construction le $1$ $A$ $j$ $0$

n_{A} = 1_{A_{1}} + 1_{A_{2}} + \dots + 1_{A_{n}} .

$n_A = \mathbb{1}_{A_1} + \mathbb{1}_{A_2} + \dots + \mathbb{1}_{A_n}.$

0 \leq E_{i} 1_{A_{j}} \leq 1

$0 \le \mathbb{E}_i \mathbb{1}_{A_j} \le 1$

E_{i}

$\mathbb{E}_i$

μ_{i}

$\mu_i$

(\prod_{j = 1}^{\infty} X_{j})_{i}

$(\prod_{j=1}^{\infty} X_j)_i$

1_{A_{j}}

$\mathbb{1}_{A_j}$ sont distribués de manière identique et indépendante - notez qu'être distribué de manière indépendante signifie que la mesure de l'espace produit est multiplicative par rapport aux mesures de coordonnées) donc nous obtenons que et donc notre définition de la probabilité de par rapport à devrait naturellement être .

\frac{n_{A}}{n} \to E_{i} 1_{A_{1}} a . s .

$\frac{n_A}{n} \to \mathbb{E}_i \mathbb{1}_{A_1} \quad a.s.$

A

$A$

μ_{i}

$\mu_i$

E_{1} 1_{A}

$\mathbb{E}_1 \mathbb{1}_{A}$

Je viens de réaliser cependant que même si la séquence de variables aléatoires convergera presque sûrement par rapport à si et seulement si elle converge presque sûrement par rapport à , ( où ) cela ne signifie pas nécessairement qu'il convergera vers la même valeur ; en fait, le SLLN garantit qu'il ne le sera que si ce qui n'est pas vrai de façon générique. $\frac{n_A}{n}$ $\mu_{i_1}$ $\mu_{i_2}$ $i_1, i_2 \in I$ $\mathbb{E}_{i_1} \mathbb{1}_A = \mathbb{E}_{i_2} \mathbb{1}_A$

Si est en quelque sorte "assez canonique", disons comme la distribution uniforme pour un ensemble fini, alors peut-être que cela fonctionne bien, mais ne donne pas vraiment de nouvelles perspectives. En particulier, pour la distribution uniforme, , c'est-à-dire que la probabilité de est juste la proportion de points ou d'événements élémentaires dans qui appartiennent à , qui me semble encore un peu circulaire. Pour une variable aléatoire continue, je ne vois pas comment nous pourrions jamais nous mettre d'accord sur un choix "canonique" de . $\mu$ $\mathbb{E}\mathbb{1}_A = \frac{|A|}{|X|}$ $A$ $X$ $A$ $\mu$

C'est-à-dire qu'il semble logique de définir la fréquence d'un événement comme la probabilité de l'événement, mais il ne semble pas qu'il soit logique de définir la probabilité que l'événement soit la fréquence (au moins sans être circulaire). Ceci est particulièrement problématique, car dans la vie réelle, nous ne savons pas réellement quelle est la probabilité; nous devons l'estimer.

Notez également que cette définition de la fréquence pour un sous-ensemble d'un espace mesurable dépend de la mesure choisie étant un espace de probabilité; par exemple, il n’existe pas de mesure de produit pour de nombreuses copies de dotées de la mesure de Lebesgue, car . De même, la mesure de utilisant la mesure de produit canonique est , qui explose à l'infini si ou va à zéro si , c'est-à-dire que les théorèmes d'extension de Kolmogorov et Tulcea sont des résultats très particuliers propres aux mesures de probabilité . $\mathbb{R}$ $\mu(\mathbb{R})=\infty$ $\prod_{j=1}^n X$ $(\mu(X))^n$ $\mu(X) >1$ $\mu(X) <1$

— Chill2Macht
source

Merci pour la belle réponse (+1). Je conviens qu'il y a des «problèmes» avec la définition en termes de fréquence relative à long terme, c'est probablement l'une des raisons pour lesquelles Kolmogorov a développé son Grundbegriffe. Cependant, lorsque nous parlons de fréquentistes, nous devons nous placer dans le laps de temps avant la théorie de Kolmogorov, je pense?

@fcop Je suppose honnêtement que je n'en ai aucune idée. Je suppose que ce que j'essaie de dire, c'est que je ne vois pas comment une justification rigoureuse de la compréhension fréquentiste de la probabilité pourrait conduire à une définition utile / non circulaire.

— Chill2Macht

@fcop J'apprécie vraiment la générosité généreuse - j'étais de très mauvaise humeur aujourd'hui avant de la recevoir. Honnêtement, cela m'a quelque peu terrassé (dans le bon sens). Encore une fois, j'apprécie vraiment

— Chill2Macht

ne le mentionnez pas, votre réponse est très bien développée et mathématiquement solide.

Je ne pense pas qu'il y ait de définition mathématique, non. La différence entre les diverses interprétations de la probabilité n'est pas une différence dans la façon dont la probabilité est définie mathématiquement. La probabilité pourrait être définie mathématiquement de cette façon: si est un espace de mesure avec , alors la probabilité de tout événement est juste . J'espère que vous convenez que cette définition est neutre par rapport à des questions comme celle de savoir si nous devons interpréter les probabilités de manière fréquentiste ou bayésienne. $(Ω, Σ, μ)$ $μ(Ω) = 1$ $S ∈ Σ$ $μ(S)$

— Kodiologue
source

c'est bien mais cette définition de la probabilité comme qui remplit les axiomes de Kolmogorov est très abstraite, elle doit être définie dans des cas spécifiques. C'est la même chose que «un cercle est l'ensemble de points qui est à une distance donnée d'un point fixe». Cela ne veut rien dire tant que vous ne dites pas dans quel espace métrique vous vous trouvez: vous devez dire quelle est la définition de la «distance». Je pense que définir comme une fréquence relative à long terme remplit les axiomes de Kolmogorov, qu'en pensez-vous? PS La définition dans le commentaire de @Silverfish remplit également ces axiomes.

μ

$\mu$

P

$\mathbb{P}$

(suite) donc pour faire court, je peux définir ( définir est le bon mot), beaucoup qui remplissent les axiomes de Kolmogorov et ce sont toutes des probabilités valides selon la théorie axiomatique.

μ

$\mu$

On peut soutenir que le système de Kolmogorov fournit une base axiomatique - qui n'implique pas nécessairement une interprétation fréquentiste ou bayésienne. Dans l'esprit du point de vue fréquentiste, l'idée de base est qu'à mesure que le nombre d'essais augmente jusqu'à l'infini, la fréquence empirique se stabilise autour d'une valeur ou converge vers une certaine valeur; la probabilité de l'événement. Bien que l'approche fréquentielle améliore l'approche classique, le manque de rigueur conduit au fondement axiomatique. S'agit-il plutôt d'une question sur l'histoire de la théorie des probabilités?

lim_{n \to \infty} (n_{A} / n) = P_{A} = P (A) .

$\lim_{n\rightarrow \infty} \left(n_{A}/ n\right) = P_A = P(A).$

— Graeme Walsh

@Graeme Walsh: pourriez-vous mettre cela dans une réponse, et le compléter avec des arguments pourquoi une telle définition de est conforme aux axiomes de Kolmogorov? (bien sûr on peut s'interroger sur l'existence de la limite, mais alors on pourrait dire que les fréquentistes sont ceux qui '' croient '' en son existence?)

P (A)

$P(A)$

@fcop Comme le note Walsh, cette "définition" n'est pas rigoureuse.

— Kodiologist