Que signifie le terme «famille exponentielle»? Pourquoi est-il nommé ainsi?

Je suis tombé sur le terme famille exponentielle .

Les distributions de Bernoulli, gaussienne et bien d'autres appartiennent à cette famille exponentielle.

Quels seraient les points communs entre eux?

terminology exponential-family

— subha
source

Juste un petit conseil: youtu.be/nLKOQfKLUks?list=PLJ_CMbwA6bT-n1W0mgOlYwccZ-j6gBXqE J'ai trouvé cette conférence d'Andrew Ng très utile pour faire descendre le concept de distributions familiales exponentielles, comme le doux Kool-Aid.

— MJW

Ils sont appelés "famille exponentielle" car ils peuvent tous être écrits sous la forme simple

F_{X} (X | θ) = \exp (η (θ) \cdot T (X) - UNE (θ) + B (X))

$f_X(x|\theta) = \exp \left (\eta(\theta) \cdot T(x) - A(\theta) + B(x) \right )$

Il existe d'autres formes équivalentes qui sont peut-être plus souvent utilisées, mais je pense que la forme rend la partie "exponentielle" plus claire.

Voir, par exemple, cette section de la page Wikipedia sur la famille exponentielle .

En particulier, au milieu des années 1930, un certain nombre d'auteurs ont discuté des conditions qui seraient nécessaires pour qu'une distribution ait une statistique suffisante; Koopman $^{[1]}$ a déclaré qu'elle devrait être " du type exponentiel très spécial de la formule (4) ci-dessous " (c'est moi qui souligne), où l'équation (4) était équivalente à la forme ci-dessus.

Donc, cette forme exprime succinctement ce qu'ils ont tous en commun. Mais la conséquence de cette forme est que cette classe particulière de distributions a de très belles propriétés; par exemple, $T$ est une statistique suffisante - elle transporte toutes les informations dans les données sur $\theta$ .

Un certain nombre de propriétés supplémentaires qu'ils partagent tous sont résumées ici .

Les membres couramment utilisés incluent le gaussien, le poisson, le binôme et le gamma (y compris exponentiel et khi carré), mais j'ai également eu l'occasion d'utiliser d'autres membres (tels que Tweedie avec spécifié $p$ , et gaussien inverse).

Les propriétés partagées permettent une certaine standardisation de leur traitement, conduisant à une large utilisation des modèles linéaires généralisés (GLM).

[1] Koopman, BO, (1936),
"Sur les distributions admettant une statistique suffisante",
Transactions de l'American Mathematical Society , 39 : 3, 399-409.

— Glen_b -Reinstate Monica
source