Somme des produits des variables aléatoires Rademacher

Soit des variables aléatoires indépendantes prenant des valeurs ou avec une probabilité de 0,5 chacune. Considérons la somme . Je souhaite limiter la probabilité . La meilleure limite que j'ai en ce moment est où c est une constante universelle. Ceci est obtenu en limitant la probabilité Pr (| x_1 + \ dots + x_n | <\ sqrt {t}) et Pr (| y_1 + \ dots + y_n | <\ sqrt {t}) en appliquant de simples limites de Chernoff. Puis-je espérer obtenir quelque chose de bien supérieur à cette limite? Pour commencer, puis-je au moins obtenir$x_1 \ldots x_a,y_1 \ldots y_b$$+1$$-1$$S = \sum_{i,j} x_i\times y_j$$P(|S| > t)$ cPr(|x1+⋯+xn|<$2e^{-\frac{ct}{\max(a,b)}}$$c$Pr(|y1+⋯+yn|<$Pr(|x_1 + \dots + x_n|<\sqrt{t})$e - c $Pr(|y_1 + \dots + y_n|<\sqrt{t})$$e^{-c\frac{t}{\sqrt{ab}}}$ . Si je peux obtenir des queues sous-gaussiennes, ce serait probablement le meilleur, mais peut-on s'y attendre (je ne pense pas, mais je ne peux pas penser à un argument)?

La relation algébrique

$$S = \sum_{i,j} x_i y_j = \sum_i x_i \sum_j y_j$$

présente comme le produit de deux sommes indépendantes. Parce que ( x i + 1 ) / 2 et ( y j + 1 ) / 2 sont indépendants de Bernoulli ( 1 / 2 ) variables aléatoires, X = Σ a i = 1 x i est un binôme ( un , 1 / 2 ) variable , qui a été doublé et déplacé. Par conséquent, sa moyenne est 0 et sa variance est$S$$(x_i+1)/2$$(y_j+1)/2$$(1/2)$$X=\sum_{i=1}^a x_i$$(a, 1/2)$$0$ . De même, Y = ∑ b j = 1 y j a une moyenne de 0 et une variance de b . Normalisons-les dès maintenant en définissant$a$$Y=\sum_{j=1}^b y_j$$0$$b$

$$X_a = \frac{1}{\sqrt a} \sum_{i=1}^a x_i,$$

D'où

$$S = \sqrt{ab} X_a X_b = \sqrt{ab}Z_{ab}.$$

À un degré élevé (et quantifiable) de précision, à mesure grand X grandit, a s'approche de la distribution normale standard. Soit donc approximativement S comme √$a$$X_a$$S$ fois le produit de deux normales standard.$\sqrt{ab}$

La prochaine étape consiste à remarquer que

$$Z_{ab} = X_aX_b = \frac{1}{2}\left(\left(\frac{X_a+X_b}{\sqrt 2}\right)^2 - \left(\frac{X_a-X_b}{\sqrt 2}\right)^2 \right) = \frac{1}{2}\left(U^2 - V^2\right).$$

est un multiple de la différence des carrés des variables normales standards indépendants et V . La distribution de Z a b peut être calculée analytiquement (en inversant la fonction caractéristique ): son pdf est proportionnel à la fonction de Bessel d'ordre zéro, K 0 ( | z | ) / π . Parce que cette fonction a des queues exponentielles, nous concluons immédiatement que pour les grands a et b et les t fixes , il n'y a pas de meilleure approximation de Pr a , b ( S$U$$V$$Z_{ab}$$K_0(|z|)/\pi$$a$$b$$t$ que celle donnée dans la question.${\Pr}_{a,b}(S \gt t)$

Il reste une marge d'amélioration lorsque l'un (au moins) de et b n'est pas grand ou à des points dans la queue de S proches de ± a b . Les calculs directs de la distribution de S montrent une diminution progressive des probabilités de queue à des points beaucoup plus grands que $a$$b$$S$$\pm a b$$S$ , à peu près au-delà$\sqrt{ab}$ . Ces tracés log-linéaires du CDF deSpour différentes valeurs dea(données dans les titres) etb(allant approximativement sur les mêmes valeurs quea, distinguées par la couleur dans chaque tracé) montrent ce qui se passe. Pour référence, le graphique de ladistributionK0limiteest affiché en noir. (Parce queSest symétrique autour de0,Pr(S>t)=Pr(-S<-t$\sqrt{ab\max(a,b)}$$S$$a$$b$$a$$K_0$$S$$0$$\Pr(S \gt t) = \Pr(-S \lt -t)$, il suffit donc de regarder la queue négative.)

À mesure que grandit, le CDF se rapproche de la ligne de référence.$b$

La caractérisation et la quantification de cette courbure nécessiteraient une analyse plus fine de l'approximation normale aux variables binomiales.

La qualité de l'approximation de la fonction de Bessel devient plus claire dans ces parties agrandies (du coin supérieur droit de chaque tracé). Nous sommes déjà assez loin dans les queues. Bien que l'échelle verticale logarithmique peut cacher des différences importantes, bien au moment où a atteint 500 l'approximation est bon pour | S | < a $a$$500$ .$|S| \lt a\sqrt{b}$

---

Code R pour calculer la distribution de $S$

L'exécution suivante prendra quelques secondes. (Il calcule plusieurs millions de probabilités pour 36 combinaisons de et b .) Sur les machines plus lentes, omettez la plus grande une ou deux valeurs de et et augmentez la limite de traçage inférieure de 10 - 300 à environ 10 - 160 .$a$$b$ab$10^{-300}$$10^{-160}$

s <- function(a, b) {
  # Returns the distribution of S as a vector indexed by its support.
  products <- factor(as.vector(outer(seq(-a, a, by=2), seq(-b, b, by=2))))
  probs <- as.vector(outer(dbinom(0:a, a, 1/2), dbinom(0:b, b, 1/2)))
  tapply(probs, products, sum)
}

par(mfrow=c(2,3))
b.vec <- c(51, 101, 149, 201, 299, 501)
cols <- terrain.colors(length(b.vec)+1)
for (a in c(50, 100, 150, 200, 300, 500)) {
  plot(c(-sqrt(a*max(b.vec)),0), c(10^(-300), 1), type="n", log="y", 
       xlab="S/sqrt(ab)", ylab="CDF", main=paste(a))
  curve(besselK(abs(x), 0)/pi, lwd=2, add=TRUE)
  for (j in 1:length(b.vec)) {
    b <- b.vec[j]
    x <- s(a,b)
    n <- as.numeric(names(x))
    k <- n <= 0
    y <- cumsum(x[k])
    lines(n[k]/sqrt(a*b), y, col=cols[j], lwd=2)
  }
}

Commentaire: J'ai édité le titre pour essayer de mieux refléter le type de VR pris en compte dans la question. N'importe qui, n'hésitez pas à rééditer.

Motivation: je suppose qu'il n'est pas nécessaire de se contenter d'une borne supérieure, si nous pouvons dériver la distribution de. ( MISE À JOUR : Nous ne pouvons pas -voir les commentaires et la réponse de Whuber).$|S_{ab}|$

Notons . Il est facile de vérifier que les Z « s ont la même distribution que les X » s et Y s. La fonction de génération de moment est$Z_k = X_iY_j,\;\; k=1,...,ab$$Z$$X$$Y$

$$M_Z(t) = E[e^{zt}]=\frac 12e^{-t}+\frac 12e^t = \cosh(t)$$

De plus, les sont, pour commencer, indépendants par paire: La variable W = Z 1 + Z 2 (les indices peuvent être n'importe lesquels bien sûr), a un support { - 2 , 0 , 2 } avec les probabilités correspondantes { 1 / 4 , 1 / 2 , 1 / 4 } . Sa fonction de génération de moment est$Z$$W = Z_1+Z_2$$\{-2,0,2\}$$\{1/4,1/2,1/4\}$

$$M_{W}(t) = E[e^{(z_1+z_2)t}] = \frac 14e^{-2t}+\frac 12 +\frac 14e^{2t}=\\ =\frac 14(e^{-2t}+1)+ \frac 14(e^{2t}+1) = \frac 14 2e^{-t}\cosh(t)+\frac 14 2e^{t}\cosh(t)\\ =\cosh(t)\cdot \cosh(t) = M_{Z_1}(t)M_{Z_2}(t)$$

J'essaierai de soupçonner la pleine indépendance comme suit (est-ce évident pour les plus sages?): Pour cette partie, notons . Ensuite , par la règle de la chaîne P [ Z a b , . . . , Z 11 ] = P [ Z a b | Z a , b - 1 , . . . , Z 11 ] ⋅ . . . ⋅ $Z_{ij}=X_iY_j$

$$P[Z_{ab},...,Z_{11}] = P[Z_{ab}\mid Z_{a,b-1},...,Z_{11}]\cdot ...\cdot P[Z_{13}\mid Z_{12},Z_{11}]\cdot P[Z_{12}\mid Z_{11}]\cdot P[Z_{11}]$$

Par indépendance par paire, nous avons . Considérons P [ Z 13 , Z 12 ∣ Z 11 ] . Z 13 et Z 12 sont indépendants conditionnellement à Z 11 donc on a P [ Z 13 ∣ Z 12 , Z 11 ] = P [ Z $P[Z_{12}\mid Z_{11}] = P[Z_{12}]$
$P[Z_{13},Z_{12}\mid Z_{11}]$$Z_{13}$$Z_{12}$$Z_{11}$ la deuxième égalité par indépendance par paire. Mais cela implique que

$$P[Z_{13}\mid Z_{12},Z_{11}] = P[Z_{13}\mid Z_{11}] = P[Z_{13}]$$

$$P[Z_{13}\mid Z_{12},Z_{11}]\cdot P[Z_{12}\mid Z_{11}]\cdot P[Z_{11}] = P[Z_{13},\,Z_{12},\,Z_{11}] = P[Z_{13}]\cdot P[Z_{12}]\cdot P[Z_{11}]$$

Etc (je pense). ( MISE À JOUR : Je pense que c'est faux . L' indépendance vaut probablement pour tout triplet, mais pas pour tout le groupe. Donc, ce qui suit est juste la dérivation de la distribution d'une simple marche aléatoire, et pas une réponse correcte à la question - voir Wolfies 'et Réponses de Whuber).

Si la pleine indépendance tient effectivement, nous avons pour tâche de dériver la distribution d'une somme de iid dichotomiques rv

$$S_{ab}=\sum_{k=1}^{ab}Z_k$$

qui ressemble à une simple marche aléatoire , mais sans l'interprétation claire de cette dernière comme une séquence.

Si le soutien de S seront les entiers même dans [ - un b , . . . , Un b ] y compris zéro, tandis que si un b = o d d l'appui du S seront les entiers impairs dans [ - un b , . . . , a b ] , sans zéro. $ab=even$$S$$[-ab,...,ab]$$ab=odd$$S$$[-ab,...,ab]$

$ab=odd$
$m$$Z$$-1$$S$$S\in \{ab-2m;m\in \mathbb Z_+\cup\{0\};m\le ab\}$$m$$S$$Z$$\{Z_1=z_1,..., Z_{ab}=z_{ab}\}$$S$

$$P(S=ab-2m)={ab \choose m}\cdot \frac 1{2^{ab}}, \qquad 0\le m\le ab$$

$s\equiv ab-2m$$S$

$$P(S=s)={ab \choose \frac{ab-s}{2}}\cdot \frac 1{2^{ab}}$$

$|S|$$ab=odd$$S$$|S|$

$$P(|S|=|s|)={ab \choose \frac{ab-s}{2}}\cdot \frac 1{2^{ab-1}}$$

Ensuite, la fonction de distribution est

$$P(|S|\le|s|)=\frac 1{2^{ab-1}}\sum_{1\le i\le s,\, i\,odd}{ab \choose \frac{ab-i}{2}}$$

$t$$1\le t<ab$

$$P(|S|> t) = 1- P(|S|\le t) = 1-\frac 1{2^{ab-1}}\sum_{1\le i\le t,\, i\,odd}{ab \choose {\frac{ab-i}{2}}}$$

$i=odd$$|S|$$t=10.5$$i$$9$

Pas une réponse, mais un commentaire sur la réponse intéressante d'Alecos qui est trop long pour tenir dans une boîte de commentaires.

$(X_1, ..., X_a)$$(Y_1, ..., Y_b)$

$$S_{ab}=\sum_{k=1}^{ab}Z_k \qquad \text{where} \qquad Z_k = X_i Y_j$$

$S$

Pour illustrer qu'il ne s'agit pas d' une simple marche aléatoire, voici une rapide comparaison Monte Carlo de:

• $S$$a = 5$$b = 7$
• $n = 35$

$S$

monte Carlo

$S$$a$$b$

 SumAB[a_, b_] :=  Outer[Times, RandomChoice[{-1, 1}, a], RandomChoice[{-1, 1}, b]] 
                         // Flatten // Total 

$a = 5$$b = 7$

 data57 = Table[SumAB[5, 7], {500000}];

$a$$b$

{-35, -25, -21, -15, -9, -7, -5, -3, -1, 1, 3, 5, 7, 9, 15, 21, 25, 35}