Événements à forte probabilité sans coordonnées à faible probabilité

Soit une variable aléatoire prenant des valeurs dans (pour un grand alphabet ), qui a une entropie très élevée - disons,pour une constante arbitrairement petite . Soit un événement dans le support de tel que , où \ varepsilon est une constante arbitrairement petite.$X$$\Sigma^n$$\Sigma$$H(X) \ge (n- \delta)\cdot\log|\Sigma|$$\delta$$E \subseteq \rm{Supp}(X)$$X$$\Pr[X \in E] \ge 1 - \varepsilon$$\varepsilon$

On dit qu'une paire $(i,\sigma)$ est une coordonnée de faible probabilité de $E$ si $\Pr[X \in E | X_i = \sigma] \le \varepsilon$ . Nous disons qu'une chaîne $x \in \Sigma^n$ contient une coordonnée de faible probabilité de $E$ si $(i, x_i)$ est une coordonnée de faible probabilité de $E$ pour certains $i$ .

En général, certaines chaînes dans $E$ peuvent contenir des coordonnées de faible probabilité de $E$ . La question est de savoir si nous pouvons toujours trouver un événement à forte probabilité $E' \subseteq E$ tel qu'aucune chaîne dans $E'$ contienne une coordonnée à faible probabilité de $E'$ (et non de $E$ ).

Merci!

Voici un exemple complétant la réponse de Harry Yuen. Pour un contre-exemple, il suffit de définir les appropriés et de montrer que tout grand sous-ensemble doit avoir une faible probabilité de coordonnée de - une faible probabilité de coordonnée de est nécessairement une faible probabilité co -ordonné de .E ′ ⊆ E E E E $X,E$$E'\subseteq E$$E$$E$$E'$

En outre, j'ignorerai la condition relative à l'entropie - ajouter à variables aléatoires uniformément distribuées uniformément (et prendre à ) augmenteraà près de sans affecter l'existence d'un tel (je n'ai pas bien réfléchi).X E E × Σ N H ( X ) / ( n + N ) log | Σ | 1 E $N$$X$$E$$E\times \Sigma^N$$H(X)/(n+N)\log|\Sigma|$$1$$E'$

Voici l'exemple. Soit un élément aléatoire de tel que chaque vecteur avec un poids de Hamming (c'est-à-dire des vecteurs de la forme ) ait une probabilité et le vecteur tout-en-un a probabilité . Soit l'ensemble des vecteurs de poids de Hamming .{ 0 , 1 } n 1 0 … 010 … 0 ( 1 - ϵ ) / n 1 … 1 ϵ E $X$$\{0,1\}^n$$1$$0\dots 010\dots 0$$(1-\epsilon)/n$$1\dots 1$$\epsilon$$E$$1$

Considérons un sous - ensemble . Si n'est pas vide, il contient un vecteur de Hamming de poids , disons sans perte de généralité. Mais , qui est inférieur à si est environ .E ′ 1 100 … 0 Pr [ X ∈ E ′ | X i = 1 ] = ( 1 - ϵ ) /$E'\subseteq E$$E'$$1$$100\dots 0$ ϵn2/ϵ$\Pr[X \in E'|X_i=1]=\frac{(1-\epsilon)/n}{(1-\epsilon)/n + \epsilon}$$\epsilon$$n$$2/\epsilon^2$

Comment compare-t-il à ? Si peut être , alors je pense que nous pouvons accomplir ce que vous voulez. Laissez . Notez que est donnée de probabilité sous . Soit la masse de probabilité attribuée aux chaînes dans telle sorte que la ème coordonnée ait le symbole .n ϵ O ( 1 / $\epsilon$$n$$\epsilon$B=Supp(X)-EBϵXλ(i,σ)ϵBi$O(1/\sqrt{n})$$B = \mbox{Supp}(X) - E$$B$$\epsilon$$X$$\lambda(i,\sigma)\epsilon$$B$$i$$\sigma$

Supposons ont une faible probabilité de coordonnées pour certaines chaînes dans . Soit la masse de probabilité attribuée à ces chaînes. Ensuite, par définition, , ce qui implique que . Nous pouvons ignorer ces chaînes de faible probabilité tout en ne subissant qu'une perte en prob. masse à .E δ ( i , σ ) δ ( i , σ $(i,\sigma)$$E$$\delta(i,\sigma)$δ(i,σ)≤2λ(i,σ)ϵ2δ(i,σ)$\frac{\delta(i,\sigma)}{\delta(i,\sigma) + \lambda(i,\sigma)\epsilon} \leq \epsilon$$\delta(i,\sigma) \leq 2\lambda(i,\sigma)\epsilon^2$$\delta(i,\sigma)$$E$

Continuez à le faire pour tous les mauvais possibles , et à la fin, nous ne jetons au plus que . Cela utilise le fait que pour tout , .∑ i , σ δ ( i , σ ) ≤ ∑ i ∑ σ 2 λ ( i , σ ) ϵ 2 ≤ 2 ∑ i ϵ 2 = 2 n ϵ 2 i ∑ σ λ ( i , σ ) = $(i,\sigma)$$\sum_{i,\sigma} \delta(i,\sigma) \leq \sum_{i} \sum_{\sigma} 2\lambda(i,\sigma)\epsilon^2 \leq 2\sum_{i} \epsilon^2 = 2n\epsilon^2$$i$$\sum_{\sigma} \lambda(i,\sigma) = 1$

Si vous vouliez que ait la masse de probabilité , alors doit être tel que , ou que suffit. 1 - γ ϵ ϵ + 2 n ϵ 2 ≤ γ ϵ = O ( γ / $E'$$1 -\gamma$$\epsilon$$\epsilon + 2n\epsilon^2 \leq \gamma$$\epsilon = O(\gamma/\sqrt{2n})$

Pour le moment, il n'est pas clair si cette dépendance à l'égard de peut être supprimée; Je vais continuer à y penser.$n$