De bons exemples de «deux, c'est facile, trois, c'est difficile» en sciences informatiques

J'ai récemment rencontré une formulation du méta-phénomène : " deux c'est facile, trois c'est dur " (formulé de cette façon par Federico Poloni), qui peut être décrit comme suit:

Lorsqu'un certain problème est formulé pour deux entités, il est relativement facile à résoudre; cependant, un algorithme pour une formulation à trois entités augmente énormément la difficulté, ce qui peut même rendre la solution impossible ou impossible à atteindre.

_{(J'accueille favorablement les suggestions pour rendre le phrasé plus beau, concis et précis.)}

Quels bons exemples dans divers domaines des sciences informatiques (à partir de l'algèbre linéaire pure et se terminant par une physique numérique à terme générique) connaissez-vous?

Un exemple qui apparaît dans de nombreux domaines de la physique, et en particulier la mécanique classique et la physique quantique, est le problème des deux corps. Le problème des deux corps signifie ici la tâche de calculer la dynamique de deux particules en interaction qui, par exemple, interagissent par des forces gravitationnelles ou coulombiennes. La solution à ce problème peut souvent être trouvée sous forme fermée par une transformation variable en centre de masse et coordonnées relatives.

Cependant, dès que l'on considère trois particules, en général aucune solution sous forme fermée n'existe .

Un exemple célèbre est le problème de satisfiabilité booléenne (SAT). 2-SAT n'est pas compliqué à résoudre en temps polynomial, mais 3-SAT est NP-complet.

En une et deux dimensions, toutes les routes mènent à Rome, mais pas en trois dimensions.

Plus précisément, étant donné une marche aléatoire (également susceptible de se déplacer dans toutes les directions) sur les nombres entiers dans une ou deux dimensions, alors quel que soit le point de départ, avec une probabilité une (aka presque sûrement), la marche aléatoire finira par arriver à une destination spécifique désignée point ("Rome").

Cependant, pour trois dimensions ou plus, la probabilité d'arriver à "Rome" est inférieure à un; avec une probabilité décroissante à mesure que le nombre de dimensions augmente.

Ainsi, par exemple, si vous effectuez une simulation stochastique (Monte Carlo) d'une marche aléatoire à partir de "Rome", qui s'arrêtera lorsque Rome sera de retour, puis en une et deux dimensions, vous pouvez être assuré de revenir éventuellement à Rome et arrêter la simulation - si facile. En trois dimensions, vous ne pourrez jamais revenir en arrière, si dur.

https://en.wikipedia.org/wiki/Random_walk#Higher_dimensions

Pour visualiser le cas bidimensionnel, on peut imaginer une personne marchant au hasard dans une ville. La ville est effectivement infinie et disposée en une grille carrée de trottoirs. À chaque intersection, la personne choisit au hasard l'un des quatre itinéraires possibles (y compris celui à l'origine emprunté). Formellement, il s'agit d'une marche aléatoire sur l'ensemble de tous les points du plan avec des coordonnées entières.

La personne reviendra-t-elle jamais au point de départ initial de la marche? C'est l'équivalent bidimensionnel du problème de passage à niveau discuté ci-dessus. En 1921, George Pólya a prouvé que la personne ferait presque sûrement une marche aléatoire en 2 dimensions, mais pour 3 dimensions ou plus, la probabilité de revenir à l'origine diminue à mesure que le nombre de dimensions augmente. En 3 dimensions, la probabilité diminue à environ 34%

Voir http://mathworld.wolfram.com/PolyasRandomWalkConstants.html pour les valeurs numériques.

En voici une qui tient à cœur aux contributeurs de SciComp.SE:

Le problème d' existence et de douceur de Navier – Stokes

La version tridimensionnelle est bien sûr un problème ouvert célèbre et fait l'objet d'un prix Clay Millenium d'un million de dollars. Mais la version bidimensionnelle a déjà été résolue il y a longtemps, avec une réponse affirmative. Terry Tao note que la solution remonte essentiellement à la thèse de Leray en 1933!

Pourquoi le problème tridimensionnel est-il tellement plus difficile à résoudre? La réponse standard, ondulée à la main, est que la turbulence devient beaucoup plus instable en trois dimensions qu'en deux. Pour une réponse mathématiquement plus rigoureuse, consultez l'énoncé officiel du problème de Charles Fefferman au Clay Institute ou la belle exposition de Terry Tao sur les stratégies de preuve possibles .

Dans la théorie du choix social, la conception d'un système électoral avec deux candidats est facile (règles de la majorité), mais la conception d'un système électoral avec trois candidats ou plus implique nécessairement de faire des compromis entre diverses conditions raisonnables. ( Théorème d'impossibilité de Arrow ).

Diagonalisation simultanée de deux matrices $A_1$ et $A_2$ :

Cependant, lorsque la réduction simultanée de trois matrices à une forme canonique (condition plus faible par rapport à ce qui précède) est requise:

Une application pratique serait une solution à un problème de valeur propre quadratique:

Source: CF van Loan, «Conférence 6: La décomposition généralisée des valeurs singulières d'ordre supérieur», Université d'été CIME-EMS, Cetraro, Italie, juin 2015.

Il existe de nombreux exemples en informatique quantique, bien que je sois hors de ce sujet depuis un certain temps et que je ne m'en souviens donc pas. L'un des principaux est que l'intrication bipartite (enchevêtrement entre deux systèmes) est relativement facile, tandis que l'intrication entre trois systèmes ou plus est un gâchis non résolu avec probablement une centaine d'articles écrits sur le sujet.

$\max\left(u_a v_b w_c T^{abc} / \left\lVert u \right\rVert \left\lVert v \right\rVert \left\lVert w \right\rVert \right)$

Ce document semble pertinent, bien que je ne l'ai pas lu: la plupart des problèmes de tenseur sont NP-difficiles

La bissection d'angle avec règle et boussole est simple, la trisection d'angle est en général impossible.

Inférence de type pour les types de rang n . L'inférence de type pour le rang 2 n'est pas particulièrement difficile, mais l'inférence de type pour le rang 3 ou supérieur est indécidable.

Voici une bonne idée de l'optimisation: l'algorithme ADMM (Alternating Direction Method of Multipliers).

Étant donné une fonction objective non couplée et convexe de deux variables (les variables elles-mêmes pourraient être des vecteurs) et une contrainte linéaire couplant les deux variables:

$L_{\rho}(x_1, x_2, \lambda)$$x_1$$x_2, \lambda$$L_{\rho}(x_1, x_2, \lambda)$$x_2$$x_1, \lambda$$\lambda$. Ce cycle se poursuit jusqu'à ce qu'un critère d'arrêt soit atteint.

(Remarque: certains chercheurs comme Eckstein rejettent la vue de fractionnement de Gauss-Siedel en faveur des opérateurs proximaux, par exemple voir http://rutcor.rutgers.edu/pub/rrr/reports2012/32_2012.pdf )

Pour les problèmes convexes, il a été prouvé que cet algorithme converge - pour deux ensembles de variables. Ce n'est pas le cas pour trois variables. Par exemple, le problème d'optimisation

$f$$x_i$$\lambda$

https://web.stanford.edu/~yyye/ADMM-final.pdf

Plier un morceau de papier en deux sans outils est facile. Le plier en tiers est difficile.

La factorisation d'un polynôme à deux racines est facile. La factorisation d'un polynôme à trois racines est beaucoup plus compliquée.

$f(x,y) = 0$$f$

Cette différence a plusieurs implications:

• Au degré 2, il existe des algorithmes pour trouver tous les points rationnels (solutions en nombres rationnels), au degré 3 aucun algorithme de ce type n'est connu.
• $\sqrt{f(x)}$$f$$f$
• Le problème du logarithme discret est traitable sur des courbes de degré 2, donc ne convient pas aux applications cryptographiques, tandis que la dureté supposée du même problème sur les courbes elliptiques est à la base de certains des cryptosystèmes à clé publique les plus populaires.

La TREEfonction.

Nous pouvons calculer TREE(2) = 3, mais TREE(3)n'est pas calculable dans la vie de l'univers, nous savons seulement qu'il est fini.

Dans un espace à deux dimensions, vous pouvez introduire une structure complexe, qui peut être utilisée pour résoudre avec élégance de nombreux problèmes (par exemple, des problèmes d'écoulement potentiels ), mais aucun analogue n'existe en 3 dimensions.

En physique quantique à plusieurs corps, nous étudions différents réseaux de n spins dans le cadre de différents modèles (par exemple modèle Heisenberg, modèle Bose-Hubbard, modèle Ising, ...). Vous avez bien sûr différentes méthodes numériques pour les étudier (DMRG, diagonalisation exacte, réseaux de neurones, ...) et l'une des raisons pour lesquelles nous essayons de développer différentes méthodes est que vous ne pouvez pas résoudre ces modèles lorsque n devient trop "élevé" , et c'est bien sûr pire si vous étudiez dans des dimensions plus élevées. Par exemple, pour le modèle d'Ising, la diagonalisation exacte fonctionne bien en 1d pour n non supérieur à 20. Donc, pour n plus élevé, vous essayez une autre méthode: DMRG. Mais ces derniers fonctionnent bien pour n plus élevé (comme n = 70 mais pas bien pour n supérieur). Encore une fois, vous voulez une autre méthode pour les réseaux de neurones n supérieurs (c'est-à-dire l'intelligence artificielle). Et en plus des réseaux de neurones, vous pouvez étudier "plus facilement" (c'est-à-dire avec un n relativement plus élevé) ces modèles dans des dimensions plus élevées (mais pour la dimension = 3 et le petit n, par exemple, il faut encore beaucoup d'heures (plusieurs jours) pour obtenir l'état fondamental ou observable que vous vouliez ...). Bref, quand n devient "trop ​​élevé" pour vos méthodes numériques (mais aussi la capacité de votre ordinateur) vous devez effectuer de nouvelles méthodes (et si vous le pouvez, utiliser un super ordinateur) et c'est le même problème avec la dimension de votre système mais pire bien sûr car vous êtes rapidement coincé (dimension = 4 est difficile à obtenir sauf si vous attendez beaucoup de temps ...). il faut encore beaucoup d'heures (plusieurs jours) pour obtenir l'état fondamental ou l'observable que vous vouliez ...). Bref, quand n devient "trop ​​élevé" pour vos méthodes numériques (mais aussi la capacité de votre ordinateur) vous devez effectuer de nouvelles méthodes (et si vous le pouvez, utiliser un super ordinateur) et c'est le même problème avec la dimension de votre système mais pire bien sûr car vous êtes rapidement coincé (dimension = 4 est difficile à obtenir sauf si vous attendez beaucoup de temps ...). il faut encore beaucoup d'heures (plusieurs jours) pour obtenir l'état fondamental ou l'observable que vous vouliez ...). Bref, quand n devient "trop ​​élevé" pour vos méthodes numériques (mais aussi la capacité de votre ordinateur) vous devez effectuer de nouvelles méthodes (et si vous le pouvez, utiliser un super ordinateur) et c'est le même problème avec la dimension de votre système mais pire bien sûr car vous êtes rapidement coincé (dimension = 4 est difficile à obtenir sauf si vous attendez beaucoup de temps ...).
Bien sûr, ici, ce sont des informations supplémentaires à votre question car en fait, en physique quantique à plusieurs corps, n = 3 n'est pas élevé (mais si vous prenez un réseau qui est un hypercube, vous ne pouvez pas prendre n = 3 de cours (en raison des conditions)).

Monde réel:

Automatisation% - par exemple, il est facile d'automatiser quelque chose à 30%, 50% ou 80%, alors qu'il est difficile d'aller par exemple au-dessus de 95% et incroyablement difficile, voire presque impossible, d'atteindre 100%.