Quel est le volume d'informations?

Cette question a été posée à Jeannette Wing après sa présentation de PCAST sur la science informatique.

«Du point de vue de la physique, y a-t-il un volume maximal d'informations que nous pouvons avoir?» (Une question intéressante pour la communauté informatique théorique, car je pense que cela soulève la question «Qu'est-ce que l'information?»)

Au-delà de "Qu'est-ce que l'information?" il faut aussi comprendre ce que "volume" signifie dans ce contexte? Peut-être que la densité maximale d'informations est une meilleure mesure.

Lance, il existe en fait un théorème qui donne des limites à ce sujet. Le théorème de Margolus-Levitin limite le taux de calcul en termes de densité d'énergie. Il existe une astuce intéressante à jouer: si la densité énergétique locale dépasse une certaine limite, un trou noir se formera, ce qui provoquera un horizon d'événements qui vous empêchera essentiellement d'obtenir une réponse en déconnectant de manière causale cette région de reste de l'univers. Seth Lloyd a rédigé un article qui utilise cette astuce pour estimer le pouvoir de calcul de l'univers ( Phys. Rev. Lett. 88, 237901 (2002) , arXiv ).

Vous pouvez bien sûr utiliser un raisonnement similaire sur n'importe quelle région finie de l'espace-temps.

Ce commentaire dans son article ne donne pas beaucoup de contexte sur le type de réponse auquel elle pourrait s'attendre. Mais c’est certainement à ce jour une question bien connue et vénérable sur laquelle on sait déjà beaucoup de choses. La page Wikipedia sur le principe holographiquea un bon aperçu. La chose la plus contre-intuitive concernant le principe holographique est qu’il dit que la capacité d’information d’une région doit être proportionnelle à sa surface; Si vous pensez à la capacité d'information en termes de combien de minuscules périphériques à deux états que vous pouvez ranger, vous vous attendriez à ce que le volume intérieur soit le facteur limitant. Cette intuition est vraie jusqu’à un certain point, mais la concentration de l’énergie de masse, abstraction faite des problèmes de miniaturisation quantique, finit par devenir si grande qu’un trou noir se forme. Grosso modo, grâce à un peu d’analyse dimensionnelle et au fait que la gravité est une loi inversée, c’est le rayon carré (proportionnel à la surface) qui est la quantité pertinente ici.

C'est une question intéressante et quelque peu amusante, mais elle est mal formulée dans sa forme actuelle.

Je me risquerai à nouveau sur une réponse en espérant que la notation tiendra compte de la difficulté initiale et de l'ambiguïté fondamentale / inhérente de la question à l'esprit et qu'en se basant sur les connaissances actuelles de la littérature, il existe plusieurs voies possibles, mais sans doute aucune "bonne réponse". ".

La principale question semble être "les analogies de la physique en informatique", dont le volume est l'un d'entre eux. Par conséquent, il est fortement lié à cette autre question Résultats de la physique dans TCS?

Pour répondre à cette question, je vais adopter différentes approches qui, à mon avis, ont toutes du mérite.

Dans ce cas strictement interprété, le volume est dans l'unité "espace" ou "longueur en cube". (Bien que, dans la physique, il soit parfois noté que le terme "espace" est mesuré en termes de longueur ou de longueur en cubes.)

Par conséquent, on pourrait soutenir que, en algorithmique, l’étude de la hiérarchie de l’espace est analogue à celle du "volume". Un algorithme spatial semble également avoir les unités "longueur en cube" où longueur est exprimée en termes de taille d'entrée.$O(n^3)$

Le problème, c’est que, en algorithmique, un algorithme n’est qu’une limite artificielle. En un sens, TCS a considéré le «continuum d’espace multidimensionnel» depuis sa création, vu dans le théorème de la hiérarchie de l’espace.$O(n^3)$

En physique, il pourrait sembler absurde de considérer autre chose qu'un espace tridimensionnel, mais bien entendu, une physique avancée prend en compte toutes sortes de domaines de l'espace de dimensions supérieures tout le temps, via des espaces de Hilbert [vecteur] de dimension c. Il semblerait donc que, dans un certain sens, un algorithme d'espace puisse être conçu pour fonctionner dans un espace de hilbert de dimension c. On dirait que le programme mulmuleys GCT serait un premier exemple de cela.$O(n^c)$

Une autre approche d'une analogie de volume (et d'autres grandeurs physiques) dans TCS est la suivante, comme indiqué dans l'autre question. Il est connu que SAT a un point de transition extrêmement analogue au point de transition physique / thermodynamique, ce qui se produit par exemple avec des gaz parfaits sous compression d’une phase à une autre, par exemple d’un gaz à un liquide. Cela se produit sous une diminution de volume (par exemple du conteneur de gaz). Maintenant, dans SAT avec entrées aléatoires, les deux paramètres principaux de la taille d’entrée sont les clauses et les variables. (Un autre paramètre est le nombre de variables dans les clauses, bien qu'il soit souvent fixé à 3 pour 3-SAT.)

Le fait d’ajuster les clauses ou les variables tout en maintenant l’autre fixe pousse le problème à travers le point de transition easy-hard-easy. Par conséquent, il semble que ces paramètres soient en quelque sorte analogues à Volume, bien que je n’aie pas vu les spécificités cartographiées. En approfondissant certains des articles les plus approfondis sur la physique statistique de la SAT, on pourrait trouver l'analogue de Volume. Voir [5] pour un mappage de base de SAT sur la terminologie de la physique statistique.

[5] Solution analytique et algorithmique des problèmes de satisfaction aléatoires de Mezard, Parisi, Zechina
http://dynamics.org/Altenberg/UH_ICS/EC_REFS/K-SAT/Mezard.Science.297_812.pdf

L’autre approche pourrait être liée aux réponses précédentes concernant le traitement d’informations à haute densité dans l’espace physique menant à des trous noirs. Il utiliserait la limite de Planck qui comporte des unités de temps, d'espace, de masse, etc. Il existe une unité de longueur de Planck définie sur cette page Wikipedia. Voir les unités dans ce tableau .$l_p$

Je ne connais pas l'interprétation physique exacte de la longueur de Planck (on peut soutenir que c'est un domaine de recherche en physique actif), mais je pense que cela peut être interprété dans un sens comme "la plus petite longueur d'espace possible". En d'autres termes, pourrait être la taille d'un bit physique le plus petit possible. Il est intéressant et peut-être une discontinuité de l’analogie qu’en physique, un tout petit bit doit apparemment avoir un volume (c’est-à-dire une unité de longueur en cubes) contrairement à l’informatique dans laquelle les bits ne semblent avoir qu’une dimension de "longueur".$l_p^3$