Entropie de Rényi à l'infini ou entropie min


8

Je lis un article qui fait référence à la limite car n va à l'infinité de l'entropie de Rényi. Il le définit commeHn(X)=11−nlog2⁡(∑i=1Npin). Il indique ensuite que la limiten→∞ est −log2⁡(p1). J'ai vu un autre article qui utilise le maximum depi′s au lieu de p1. Je pense que cela fonctionne assez facilement si tous lespi′ssont égaux (une distribution uniforme). Je n'ai aucune idée de comment le prouver pour autre chose qu'une distribution uniforme. Quelqu'un peut-il me montrer comment c'est fait?

Réponses:


7

Supposer p1=maxipi. Nous avons Par conséquent Comme , tandis que .

p1n≤∑i=1Npin≤Np1n.
nlog⁡p1+log⁡N1−n≤Hn(X)≤nlog⁡p11−n.
n→∞log⁡N/(1−n)→0n/(1−n)→−1
En utilisant notre site, vous reconnaissez avoir lu et compris notre politique liée aux cookies et notre politique de confidentialité.
Licensed under cc by-sa 3.0 with attribution required.