Valeurs attendues de la complexité de Kolmogorov dans un échantillon aléatoire

La complexité de Kolmogorov d'une chaîne n'est pas calculable. Cependant, dans un sous-ensemble aléatoire de taille de chaînes binaires de longueur , combien devraient avoir une complexité inférieure à un entier inférieur à (en fonction de , et )? $M$ $n$ $n_{0}$ $n$ $M$ $n$ $n_{0}$

cc.complexity-theory kolmogorov-complexity

— contre
source

Utilisez-vous ici la complexité de Kolmogorov "standard" ou la complexité des préfixes?

— Aubrey da Cunha

En fait, je ne pensais qu'à la complexité de Kolmogorov. Je devinais le

lié que domotorp mentionné lorsque l' on considère l'univers de toutes les chaînes. Je ne savais pas si un résultat «cohérent» pour un sous-ensemble aléatoire arbitraire de taille

pouvait être produit. Mais la complexité des préfixes nous amènerait-elle à un point de vue différent?

2^{n_{o}}

$2^{n_{o}}$

M

$M$

— vs

Cela ne changerait certainement pas l'ordre de grandeur, en fait je pense que maintenant ma réponse est liée aux deux versions.

— domotorp

Pour chaque

et chaque

, la probabilité qu'une chaîne aléatoire de

bits

ait la complexité de Kolmogorov

est supérieure à

n

$n$

c

$c$

n

$n$

x

$x$

K (x) \geq n - c

$K(x) \geq n-c$

(avec

). Donc, dans une distribution aléatoire de

chaînes, vous devez vous attendre à

1 - \frac{1}{2^{c}}

$1 - \frac{1}{2^c}$

c = n - n_{0}

$c = n-n_0$

M

$M$

chaînes avec

... intuitivement, il y a une très forte probabilité de choisir une chaîne avec une complexité de Kolmogorov élevée.

\frac{M}{2^{(} n - n_{0})}

$\frac{M}{2^(n-n_0)}$

K (x) < n_{0}

$K(x) \lt n_0$

— Marzio De Biasi

Réponses:

La complexité de Kolmogorov n'est déterminée que jusqu'à une certaine constante additive, il n'est donc pas possible de donner une réponse exacte. La limite que je décris ici est encore plus faible.

Bien sûr, le nombre attendu peut être calculé facilement une fois que nous savons combien des chaînes ont une complexité inférieure à , alors permettez-moi de répondre à cela. C'est généralement la première déclaration sur la complexité de Kolmogorov que ce nombre est au plus - car il n'y a que ces nombreuses chaînes de plus petite longueur. Par contre, si votre programme dit "de longueur , prenez le ème nombre", alors vous obtenez chaînes de complexité inférieures à , où $2^n$ $n_0$ $2^{n_0}-1$ $n$ $x$ $2^{n_0-K(n)-C}$ $n_0$ est la version sans préfixe de la complexité de Kolmogorov de (donc au plus ). Plus en détail, la chaîne contient d'abord la description de la machine de Turing qui a pris l'entrée , où p est la description d'un programme sans préfixe qui sort , sort le ème nombre de longueur , qui est bits, puis cela est suivi de . $K(n)$ $n$ $\log n+\log^* n + O(1)$ $px$ $n$ $x$ $n$ $O(1)$ $px$

Il est probablement possible d'améliorer ces limites, mais je doute que vous puissiez obtenir une réponse exacte.

— domotorp
source

Pourriez-vous expliquer un peu la phrase "si votre programme dit" de longueur n, prenez le xième nombre ""?

— vs

Vous avez raison, il ne devrait pas y avoir de préfixe, je l'ai corrigé.

— domotorp

$n$ $n_0$ $2^{n_0 - K(n_0|n)}$ $2^{-K(n_0|n) + O(1)}$ $n_0$ $k$ $2^{k - K(k|n)}$ $k$ $n_0$

C (a, b) = K (a | C (a, b)) + C (b | a, C (a, b)) + O (1) .

$C(a,b) = K(a|C(a,b)) + C(b|a,C(a,b)) + O(1).$

K (\cdot)

$K(\cdot)$

a = n

$a = n$

n

$n$

b

$b$

k

$k$

k = C (b) = C (n, b) + O (1) = K (n | k) + C (b | n, k) + O (1) .

$k = C(b) = C(n,b) + O(1) = K(n|k) + C(b|n,k) + O(1).$

b

$b$

C (b | n, k) = k - K (n | k) + O (1)

$C(b|n,k) = k - K(n|k)+O(1)$

k^{'} = k - K (n | k)

$k' = k - K(n|k)$

O (2^{k^{'}})

$O(2^{k'})$

b

$b$

2^{k^{'}}

$2^{k'}$

n

$n$

C (b | n, k) \leq k^{'} + O (1)

$C(b|n,k) \le k' + O(1)$

Ω (2^{k^{'}})

$\Omega(2^{k'})$

C (b | n, k) = k^{'} + O (1)

$C(b|n,k) = k' + O(1)$

— Bruno Bauwens
source