Problèmes de décision vs problèmes «réels» qui ne sont pas oui ou non

J'ai lu dans de nombreux endroits que certains problèmes sont difficiles à approximer (il est difficile de les approcher ). Mais l'approximation n'est pas un problème de décision: la réponse est un nombre réel et non Oui ou Non. De plus, pour chaque facteur d'approximation souhaité, il existe de nombreuses réponses correctes et de nombreuses erreurs, ce qui change avec le facteur d'approximation souhaité!

Alors, comment peut-on dire que ce problème est NP-difficile?

(inspiré par la deuxième puce de Comment est-il difficile de compter le nombre de chemins simples entre deux nœuds dans un graphe orienté? )

Comme vous l'avez dit, il n'y a pas de décision à prendre. Il faut donc de nouvelles classes de complexité et de nouveaux types de réductions pour parvenir à une définition appropriée de la dureté NP pour les problèmes d' optimisation .

Une façon de faire est d’avoir deux nouvelles classes NPO et PO contenant des problèmes d’optimisation et qui imitent bien sûr les classes NP et P pour les problèmes de décision. De nouvelles réductions sont également nécessaires. Ensuite, nous pouvons recréer une version de NP-hardness pour les problèmes d’optimisation dans le sens indiqué pour les problèmes de décision. Mais nous devons d’abord convenir de ce qu’est un problème d’optimisation .

Définition: Soit un problème d’optimisation . est l'ensemble d' entrées ou d' instances convenablement codées sous forme de chaînes. est une fonction qui mappe chaque instance sur un ensemble de chaînes, solutions réalisables de l’instance . C'est un ensemble parce qu'il existe de nombreuses solutions à un problème d'optimisation. Nous n’avons donc pas de fonction objective qui nous indique pour chaque paire d’instance et solutionne son coût ou sa valeur . $O=(X,L,f,opt)$$X$$L$$x\in X$$x$ ( x , y ) y ∈ L ( x ) o p $f$$(x, y)$ $y\in L(x)$$opt$ nous dit si nous maximisons ou minimisons.

Cela nous permet de définir ce qu'est une solution optimale : Soit la solution optimale d'une instance d'un problème d'optimisation avecLa solution optimale est souvent désignée par .x ∈ X O = ( X , L , f , o p t ) f ( x , y o p t ) = o p t { f ( x , y ' ) | y ' ∈ L ( x ) } . y $y_{opt}\in L(x)$$x\in X$$O=(X,L,f,opt)$

$$f(x,y_{opt})=opt\{f(x,y')\mid y'\in L(x)\}.$$ $y^*$

Nous pouvons maintenant définir la classe NPO : Soit l’ensemble de tous les problèmes d’optimisation avec:O = ( X , L , f , o p t $NPO$$O=(X,L,f,opt)$

1. $X\in P$
2. Il existe un polynôme avec pour toutes les instances et toutes les solutions possibles . De plus, il existe un algorithme déterministe qui décide en temps polynomial si .| y | ≤ p ( | x | ) x ∈ X y ∈ L ( x ) y ∈ L ( x $p$$|y|\le p(|x|)$$x\in X$$y\in L(x)$$y\in L(x)$
3. $f$ peut être évalué en temps polynomial.

L'intuition derrière cela est:

1. Nous pouvons vérifier efficacement si est réellement une instance valide de notre problème d'optimisation.$x$
2. La taille des solutions possibles est polynomiale dans la taille des entrées. Et nous pouvons vérifier efficacement si est une solution fesible de l’instance .$y\in L(x)$$x$
3. La valeur d'une solution peut être déterminée efficacement.$y\in L(x)$

Cela reflète la définition de , maintenant pour PO : Soit l'ensemble des problèmes de qui peuvent être résolus par un algorithme déterministe en temps polynomial.P O N P $NP$$PO$$NPO$

Nous pouvons maintenant définir ce que nous voulons appeler un algorithme d'approximation : un algorithme d' approximation d'un problème d'optimisation est un algorithme qui calcule une solution réalisable pour une instance .y ∈ L ( x ) x ∈ $O=(X,L,f,opt)$$y\in L(x)$$x\in X$

Remarque: pour que nous ne demandions pas une solution optimale , nous souhaitons seulement avoir une solution réalisable .

Maintenant nous avons deux types d’erreurs: L’ erreur absolue d’une solution réalisable d’une instance du problème d’optimisation est.x ∈ X O = ( X , L , f , o p t ) | f ( x , y ) - f ( x , y ∗ ) $y\in L(x)$$x\in X$$O=(X,L,f,opt)$$|f(x,y)-f(x,y^*)|$

Nous appelons l'erreur absolue d'un algorithme d'approximation pour le problème d'optimisation lié par si l'algorithme calcule pour chaque instance une solution réalisable avec une erreur absolue liée à .O k A x ∈ X $A$$O$$k$$A$$x\in X$$k$

Exemple: Selon le théorème de Vizing, l' index chromatique d'un graphe (le nombre de couleurs dans la coloration des contours avec le moins de couleurs utilisées) est ou , où est le degré maximal du noeud. À partir de la démonstration du théorème, on peut concevoir un algorithme d'approximation calculant une coloration de contour avec couleurs. En conséquence, nous avons un algorithme d'approximation pour le -Problem où l'erreur absolue est limitée par .ô + 1 ô ô + 1 M i n i m u m - E d g e C o l o r i n g$\Delta$$\Delta+1$$\Delta$$\Delta+1$$\mathsf{Minimum-EdgeColoring}$$1$

Cet exemple est une exception, les petites erreurs absolues sont rares, nous définissons donc l' erreur relative de l'algorithme d'approximation sur l'instance du problème d'optimisation avec pour tout et soitA x O = ( X , L , f , o p t ) f ( x , y ) > 0 x ∈ X y ∈ L ( x $\epsilon_A(x)$$A$$x$$O=(X,L,f,opt)$$f(x,y)>0$$x\in X$$y\in L(x)$

$$\epsilon_A(x):=\begin{cases}0&f(x,A(x))=f(x,y^*)\\\frac{|f(x,A(x))-f(x,y^*)|}{\max\{f(x,A(x)),f(x,y^*)\}}&f(x,A(x))\ne f(x,y^*)\end{cases}$$

où est une solution réalisable calculée par l'approximation de l' algorithme .$A(x)=y\in L(x)$$A$

Nous pouvons maintenant définir l'approximation-algorithme pour le problème d'optimisation comme étant un -approximation-algorithme pour si l'erreur relative est bornée par pour chaque instance , ainsi $A$$O=(X,L,f,opt)$$\delta$$O$$\epsilon_A(x)$$\delta\ge 0$$x\in X$

$$\epsilon_A(x)\le \delta\qquad \forall x\in X.$$

Le choix de dans le dénominateur de la définition de l'erreur relative a été sélectionné pour rendre la définition symétrique permettant de maximiser et de minimiser. La valeur de l'erreur relative . En cas de problème d’agrandissement, la valeur de la solution n’est jamais inférieure à et jamais supérieure à pour un problème de minimisation.$\max\{f(x,A(x)),f(x,y^*)\}$$\epsilon_A(x)\in[0,1]$$(1-\epsilon_A(x))\cdot f(x,y^*)$$1/(1-\epsilon_A(x))\cdot f(x,y^*)$

Nous pouvons maintenant appeler un problʻeme d'optimisation approximatif s'il existe un algorithme aproximation pour qui s'exécute en temps polynomial.$\delta$$\delta$$A$$O$

Nous ne voulons pas regarder l'erreur pour chaque instance , nous regardons seulement dans le pire des cas. Ainsi , nous définissons , l' erreur de relativ MAXIMAL de l'approximation algorithme pour le problème d'optimisation être $x$$\epsilon_A(n)$$A$$O$

$$\epsilon_A(n)=\sup\{\epsilon_A(x)\mid |x|\le n\}.$$

Oùdevrait être la taille de l'instance.$|x|$

Exemple: une correspondance maximale dans un graphique peut être transformée en une couverture de nœud minimale en ajoutant tous les nœuds incidents de la correspondance à la couverture de sommet. Doncles bords sont couverts. Comme chaque sommet de sommet, y compris celui optimal, doit avoir l’un des nœuds de chaque bord couvert, sinon il pourrait être amélioré, nous avons . Il en résulte que Ainsi, l'algorithme glouton pour une correspondance maximale est un approximatif algorithme pour . Par conséquent, vaut approximativement.$C$$1/2\cdot |C|$$1/2\cdot |C|\cdot f(x,y^*)$

$$\frac{|C|-f(x,y^*)}{|C|}\le\frac{1}{2}$$ $1/2$$\mathsf{Minimal-VertexCover}$$\mathsf{Minimal-VertexCover}$$1/2$

Malheureusement, l'erreur relative n'est pas toujours la meilleure notion de qualité pour une approximation, comme le montre l'exemple suivant:

Exemple: Un simple algorithme glouton peut approcher . Une analyse montre que et donc serait -approximable.$\mathsf{Minimum-SetCover}$

$$\frac{|C|}{|C^*|}\le H_n\le 1+\ln(n)$$ $\mathsf{Minimum-SetCover}$$\frac{\ln(n)}{1+\ln(n)}$

Si l'erreur relative est proche de la définition suivante est avantageuse.$1$

Soit être un-problème d'optimisation avec pour tout et et une approximation de l' algorithme pour . Le rapport approximatif de la solution réalisable de l'instance est $O=(X,L,f,opt)$$f(x, y)>0$$x\in X$$y\in L(x)$$A$$O$ $r_A(x)$$A(x)=y\in L(x)$$x\in X$

$$r_A(x)=\begin{cases}1&f(x,A(x))=f(x,y^*)\\\max\left\{ \frac{f(x,A(x))}{f(x, y^*)},\frac{f(x, y^*)}{f(x, A(x))}\right\}&f(x,A(x))\ne f(x,y^*)\end{cases}$$

Comme précédemment on appelle une approximation de l' algorithme un -approximation algorithme pour le problème d'optimisation si l'approximation du rapport est délimitée par pour chaque entrée . Et encore une fois si nous avons un algorithme de -approximation pour le problème d'optimisation alors est appelé approximable . Encore une fois, nous nous intéressons uniquement au cas le plus défavorable et définissons le rapport d’approximation maximal comme étant $A$$r$$O$$r_A(x)$$r\ge1$$x\in X$

$$r_A(x)\le r$$ $r$$A$$O$$O$$r$ $r_A(n)$ $$r_A(n)=\sup\{r_A(x)\mid |x|\le n\}.$$ En conséquence, le rapport d'approximation est supérieur à pour les solutions sous-optimales. Ainsi, les meilleures solutions ont des ratios plus faibles. Pour nous pouvons maintenant écrire qu'il est approximatif . Et dans le cas de nous savons d'après l'exemple précédent qu'il est approximativement égal à . Entre erreur relative et approximation-ratio nous avons des relations simples: $1$$\mathsf{Minimum-SetCover}$$(1+\ln(n))$$\mathsf{Minimum-VertexCover}$$2$ $$r_A(x)=\frac{1}{1-\epsilon_A(x)}\qquad \epsilon_A(x)=1-\frac{1}{r_A(x)}.$$

Pour les petits écarts par rapport aux valeurs optimales et l'erreur relative est avantageuse par rapport au rapport d'approximation, ce qui indique ses points forts pour les grands écarts et .$\epsilon<1/2$$r<2$$\epsilon\ge 1/2$$r\ge 2$

Les deux versions de approximable ne se chevauchent pas, une version a toujours et l'autre . Le cas n'est pas problématique car il n'est atteint que par des algorithmes produisant une solution exacte et ne nécessitant par conséquent pas d'être traités comme des algorithmes d'approximation.$\alpha$$\alpha\le 1$$\alpha\ge 1$$\alpha=1$

Une autre classe apparaît souvent APX . Il est définit comme l'ensemble de tous les problèmes d'optimisation- de ce havre un -approximation algorithme avec qui fonctionne en temps polynomiale.$O$$NPO$$r$$r\ge1$

Nous sommes presque à travers. Nous aimerions copier les idées réussies de réductions et de complétude de la théorie de la complexité. L'observation est que beaucoup de variantes de décision NP-difficiles de problèmes d'optimisation sont réductibles les unes aux autres, alors que leurs variantes d'optimisation ont des propriétés différentes quant à leur approximabilité. Cela est dû à la réduction polynomiale de temps-Karp utilisée dans les réductions de NP-complétude, ce qui ne préserve pas la fonction objective. Et même si les fonctions objectives sont préservées, la réduction de temps polynomial peut réduire la qualité de la solution.

Nous avons besoin d’une version plus forte de la réduction, qui mappe non seulement les instances du problème d’optimisation aux instances de , mais également les bonnes solutions de et les bonnes solutions de .$O_1$$O_2$$O_2$$O_1$

Nous définissons donc l’ approximation-préservation-réduction pour deux problèmes d’optimisation et de . Nous appelons réductible à , écrit comme : , s'il existe deux fonctions et et une constante avec:$O_1=(X_1,L_1,f_1,opt_1)$$O_2=(X_2,L_2,f_2,opt_2)$$NPO$$O_1$ $AP$$O_2$$O_1\le_{AP} O_2$$g$$h$$c$

1. $g(x_1, r)\in X_2$ pour tous et rationnel$x_1\in X_1$$r>1$
2. $L_2(g(x, r_1))\ne\emptyset$ si pour tous les et rationnel$L_1(x_1)\ne\emptyset$$x_1\in X_1$$r>1$
3. $h(x_1, y_2, r)\in L_1(x_1)$ pour tout et rationnel et pour tout$x_1\in X_1$$r>1$$y_2\in L_2(g(x_1,r))$
4. Pour fixé, les deux fonctions et peuvent être calculées par deux algorithmes en temps polynomial dans la longueur de leurs entrées.$r$$g$$h$
5. Nous avons pour tout et rationnel et pour tout $$f_2(g(x_1,r),y_2)\le r \Rightarrow f_1(x_1,h(x_1,y_2,r))\le 1+c\cdot(r-1)$$ $x_1\in X_1$$r>1$$y_2\in L_2(g(x_1,r))$

Dans cette définition, et dépendent de la qualité de la solution . Ainsi, pour différentes qualités, les fonctions peuvent différer. Cette généralité n'est pas toujours nécessaire et nous travaillons simplement avec et .$g$$h$$r$$g(x_1)$$h(x_1, y_2)$

Maintenant que nous avons la notion d'une réduction pour l'optimisation, nous pouvons enfin transférer beaucoup de choses de la théorie de la complexité. Par exemple, si nous savons que et que nous montrons que il en résulte que aussi.$O_2\in APX$$O_1\le_{AP} O_2$$O_1\in APX$

Enfin, nous pouvons définir ce que nous entendons par -hard et -complete pour des problèmes d'optimisation:$\mathcal{C}$$\mathcal{C}$

Soit un problème d'optimisation de et une classe de problèmes d'optimisation de puis s'appelle -hard en ce qui concerne si pour tout est en .$O$$NPO$$\mathcal{C}$$NPO$$O$$\mathcal{C}$$\le_{AP}$$O'\in\mathcal{C}$ $O'\le_{AP} O$

Ainsi, une fois de plus, nous avons la notion du problème le plus difficile de la classe. Pas étonnant qu'un problème dur soit appelé -complet par rapport à s'il s'agit d'un élément de .$\mathcal{C}$$\mathcal{C}$$\le_{AP}$$\mathcal{C}$

Ainsi, nous pouvons maintenant parler de complet et de complet, etc. Et bien sûr, il nous est maintenant demandé de présenter un premier problème complet avec qui prend le rôle de . Il est presque naturel que puisse être démontré comme étant complet. Avec l'aide du théorème PCP, on peut même montrer que est .$NPO$$APX$$NPO$$\mathsf{SAT}$$\mathsf{Weighted-Satisfiability}$$NPO$$\mathsf{Maximum-3SAT}$$APX$

Ce qui est généralement montré est la dureté NP d'une version "Gap" du problème. Par exemple, supposons que vous vouliez montrer qu'il est difficile d'approximer SET COVER avec un facteur de 2.

Vous définissez l'instance "promise" suivante de SET COVER que nous appellerons 2-GAP-SET-COVER:

Corrige un nombre . 2-GAP-SET-COVER comprend toutes les occurrences de couvertures de jeu où la taille de la couverture de jeu optimale est soit:$\ell$

• au plus$\ell$
• au moins$2\ell$

Supposons que nous montrions que le problème consistant à décider dans lequel des deux cas tombe un problème est NP-complet. Ensuite, nous avons montré que l'approximation de SET COVER dans un facteur de 2 est NP-difficile, car nous pourrions utiliser un tel algorithme pour distinguer ces deux cas.

Les deux réponses existantes sont très instructives, mais je ne pense pas qu’une d’elles réponde réellement à la question suivante: "Comment un problème qui n’est même pas un problème de décision peut-il être NP-difficile, alors que NP est une classe de problèmes de décision ? "

La réponse est de se rappeler ce que NP-hard signifie. Un problème  est NP-dur sous une sorte de réduction si tous les problèmes de NP peut être réduit à  . (Et  est NP-complet si c'est NP-difficile et en NP.) Informellement, NP-difficile signifie "si je pouvais résoudre ce problème, je pourrais tout résoudre en NP", même si le problème dont vous parlez n'est pas t dans NP. La dureté de la NP ne nécessite pas l'appartenance à la NP, mais elle nécessite la bonne notion de réduction.$L$$L$$L$

Quelques exemples.

1. Tout problème NEXPTIME-complet  est NP-difficile avec des réductions multiples de temps polynomiales. Tout problème dans NP est dans NEXPTIME et est donc réductible à  par définition. D'après le théorème de la hiérarchie temporelle,  ne peut pas être dans NP, donc   n'est pas NP-complet.$L$$L$$L$$L$
2. #SAT est le problème du calcul du nombre d'assignations satisfaisantes aux formules CNF. Ce n'est clairement pas dans NP car, comme vous l'avez fait remarquer, NP est une classe de problèmes de décision et #SAT n'en fait pas partie. Cependant, #SAT est NP-difficile avec des réductions de Turing en temps polynomial, car nous pouvons y réduire la SAT. Dans un exemple SAT, nous demandons combien d'assignations satisfaisantes il y a: s'il y en a au moins une, nous disons "satisfiable"; sinon, "insatisfiable".
3. Soit APPROXSAT le problème du calcul d’un nombre compris dans un facteur dix du nombre d’assignations satisfaisantes d’une formule CNF  . Juste pour être ennuyeux, supposons que vous ayez le droit d’arrondir. Ainsi, si  a trois assignations satisfaisantes, l’algorithme est autorisé à penser "0,3" et à arrondir à zéro. Ceci est NP-difficile avec des réductions de Turing en temps polynomial, car nous pouvons toujours réduire la SAT à ce niveau. Avec une formule CNF  , demandez le nombre d'assignations satisfaisantes à , où les  sont de nouvelles variables.  est satisfiable si, et seulement si,  est, maisφ φ φ ' = φ ∧ ( Z 1 ∨ ⋯ ∨ Z 10 ) Z i φ ' φ φ ' φ φ $\varphi$$\varphi$$\varphi$$\varphi'=\varphi \wedge (Z_1\vee \dots \vee Z_{10})$$Z_i$$\varphi'$$\varphi$$\varphi'$  est garanti que aura plus de 1 000 assignations satisfaisantes, le cas échéant. Donc,  est satisfiable si, et seulement si, l'algorithme APPROXSAT dit que  a au moins 100 assignations satisfaisantes.$\varphi$$\varphi'$