Applications de complexité de Kolmogorov en complexité de calcul

44

De manière informelle, la complexité de Kolmogorov d'une chaîne est la longueur d'un programme le plus court qui génère . Nous pouvons définir une notion de 'chaîne aléatoire' en l'utilisant ( est aléatoire si ) Il est facile de voir que la plupart des chaînes sont aléatoires (il n'y a pas autant de programmes courts). $x$ $x$ $x$ $K(x) \geq 0.99 |x|$

La théorie de la complexité de Kolmogorov et la théorie de l'information algorithmique sont assez développées de nos jours. Et il existe plusieurs exemples amusants d'utilisation de la complexité de Kolmogorov dans des démonstrations de différents théorèmes qui ne contiennent rien dans la déclaration de la complexité de Kolmogorov ( LLL constructive , inégalité de Loomis-Whitney , etc.).

Existe-t-il des applications intéressantes de la complexité de Kolmogorov et de la théorie de l'information algorithmique dans la complexité de calcul et les domaines connexes ? Je pense qu'il devrait y avoir des résultats utilisant la complexité de Kolmogorov comme un simple remplacement des arguments de comptage simples. Ce n’est bien sûr pas intéressant.

— ilyaraz
source

2

Cherchez-vous uniquement des exemples de problèmes qui, au premier abord, n’ont apparemment rien à voir avec la complexité de Kolmogorov? Il existe de nombreux résultats sur la complexité de calcul de divers ensembles définis en termes de complexité de Kolmogorov (notamment l'ensemble de chaînes de Kolmogorov-aléatoires), ainsi que de nombreux résultats reliant la complexité de Kolmogorov limitée par des ressources à des éléments de complexité standard (comme P vs NP , affacturage, etc). Mais je ne suis pas sûr que ce soit ce que vous recherchez ou non.

— Joshua Grochow

1

> Cherchez-vous uniquement des exemples de problèmes qui, au premier abord, semblent n'avoir rien à voir avec la complexité de Kolmogorov? Exactement.

— ilyaraz

16

Lance Fortnow a écrit un article sur ce sujet: Complexité de Kolmogorov et complexité informatique

Vous devriez également consulter Une introduction à la complexité de Kolmogorov et à ses applications par Li et Vitanyi, le livre de référence sur le sujet. En particulier, le chapitre 6 "La méthode d'incompressibilité" traite d'un certain nombre d'applications complexes, telles que la preuve de complexité de Kolmogorov du lemme de commutation de Hastad (tiré de Circuit Lower Bounds à la Kolmogorov de Fortnow et Laplante).

Et il y a des applications dans la complexité de la communication (par exemple, Complexité de Kolmogorov et méthodes combinatoires dans la complexité de la communication de Kaplan et Laplante).

— Ian
source

1

Merci. Cet article est très agréable et utile, mais ce que je veux, ce sont des applications sans mentionner la complexité-K dans les déclarations.

— Ilyaraz

1

ilyaraz, bien que la plupart des résultats mentionnés dans ce document soient des implications plutôt que des applications, vous pouvez considérer les caractérisations des classes de complexité par la complexité de Kolmogorov comme une forme faible d’application.

— Joshua Grochow

J'ai mis à jour le message avec des références qui pourraient correspondre davantage à ce que vous recherchez.

— Ian

14

Il y a quelques jours à peine, Scott Aaronson a utilisé un argument fondé sur la complexité de Kolmogorov pour montrer l' équivalence de l'échantillonnage et de la recherche . En outre, il fait valoir que, dans son argument, la complexité de Kolmogorov est utilisée de manière essentielle, ce qui ne constitue pas simplement un raccourci pour un argument de comptage.

— Martin Schwarz
source

11

Ce résultat de Alon et al. peut être obtenu par le biais de la complexité de Kolmogorov.

$\mathrm{poly}(\log |E|)$

— ilyaraz
source

semble contre-intuitif. Est-ce que quelqu'un connaît d'autres résultats concernant des graphes bipartites et des graphes réguliers?

— vzn

11

Un excellent article que je connaisse (en plus de ceux qui sont mentionnés dans d’autres réponses):

Juris Hartmanis, Complexité généralisée de Kolmogorov et structure des calculs réalisables , FOCS 1983.

La principale chose dont je me souviens de ce document est la construction d’un oracle séparant P de NP basée sur la complexité de Kolmogorov.

Un autre papier qui me vient à l’esprit est

Allender et al., Power from Random Strings , FOCS 2002 ( version ECCC ) et SICOMP 2006 .

Si je me souviens bien, ce dernier document sépare la complétude de Turing en temps polynomial de la complétude plusieurs-un pour log-space dans PSPACE, en utilisant des arguments de complexité de Kolmogorov. Bien sûr, cela fait beaucoup d'autres choses, mais je me souviens de cette séparation étant une application qui présente un intérêt indépendant en dehors de la théorie algorithmique de l'information.

— Dave Doty
source

9

Il existe également une technique de limite inférieure quantique qui utilise la complexité de Kolmogorov:

" Limites inférieures de la complexité des requêtes aléatoires et quantiques utilisant des arguments de Kolmogorov " par Sophie Laplante et Frédéric Magniez

— Robin Kothari
source

9

$s$ $K(s)$

(Maintenant, passons au sérieux.) Daniil Musatov a récemment montré qu'une dérandomisation naïve peut fournir des constructions raisonnables pour des objets dont l'existence est généralement démontrée de manière non constructive via la méthode probabiliste. Je pense que cela est susceptible de fournir d’importantes applications futures de la complexité de Kolmogorov, liée aux ressources, à la complexité de calcul.

Daniil Musatov, Améliorer la version du théorème de complexité conditionnelle de Muchnik dans l'espace-borné via la «dénormalisation naïve» , RSE 2011, LNCS 6651, 64–76. doi: 10.1007 / 978-3-642-20712-9_6 ( pré-impression )

Voir aussi les articles citant celui-ci .

(Edit: lien vers la version publiée la plus récente.)

— András Salamon
source

1

Je dirais que ce dernier article applique la complexité de calcul (à savoir le générateur pseudo-aléatoire de Nisan) à la complexité de Kolmogorov liée aux ressources, et non l'inverse.

— Ilyaraz

1

@ilyaraz: C'est un résumé précis. J'affirme que, compte tenu des liens dans une direction, il devrait être possible de faire fonctionner ces applications dans l'autre sens également.

— András Salamon

8

H. Buhrman, L. Fortnow et S. Laplante. La complexité de Kolmogorov liée aux ressources revisitée. SIAM Journal on Computing, 31 (3): 887-905, 2002. ( journal , page Web de Lance ).

Inclut des applications de complexité de Kolmogorov telles que:

Une preuve de Valiant-Vazirani
Des assignations satisfaisantes de formules booléennes peuvent être énumérées en polynômes temporels dans la taille de sortie si et seulement si une assignation unique peut être trouvée rapidement
Une nouvelle preuve que BPP est dans Sigma_2 P
Plusieurs constructions d'oracle

Certains de ces éléments ont d'abord été prouvés dans cet article, tandis que d'autres sont simplement de nouvelles preuves d'anciens théorèmes, utilisant la complexité de Kolmogorov.

Les applications de la complexité de Kolmogorov, limitée dans le temps, dans la théorie de la complexité constituent une étude intéressante réalisée par Eric Allender sur d'autres applications. Bien que de nombreux résultats résultent en des implications, certaines sont de véritables applications, telles que:

Cor 13: Par rapport à un oracle générique, il n’existe aucun générateur pseudo-aléatoire sûr contre les adversaires P / poly.
Thm 16 [Allender et Gore, 1991]: Il existe un oracle par rapport auquel tous les prédicats de NE peuvent être résolus en temps exponentiel et E = Union_k \ Sigma_k-TIME (n).

Les deux preuves utilisent la complexité de Kolmogorov de manière significative.

— Joshua Grochow
source

Je suppose que la preuve originale de Sipser "BPP is in Sigma_2" utilisait la complexité de Kolmogorov.

— ilyaraz

6

$D$ $D$

— ilyaraz
source

Au fait, il y a un défaut dans la preuve dans cette version de survey. Cependant, il peut être corrigé :)

— Grigory Yaroslavtsev

Vous souhaitez élaborer?

— ilyaraz

1 / n^{3}

$1/n^3$

1 / n^{1 + ϵ}

$1/n^{1 + \epsilon}$

5

La longueur minimale de description utilise la complexité de Kolmogorov (ou ses approximations et généralisations dues à l’indécidabilité) dans l’apprentissage théorique-information et la théorie de l’inférence. Plus précisément, MDL est utilisé pour trouver des explications de données qui évitent naturellement les surajustements.

Jorma Rissanen fournit une bonne introduction à son concept: http://www.mdl-research.org/jorma.rissanen/pub/Intro.pdf

— Ross Snider
source

3

Voulez-vous dire quelque chose comme ça, ilyaraz?

http://arxiv.org/abs/1004.3993

— Aaron Sterling
source

Oui, cela semble encourageant.

— Ilyaraz