Tri en tant que programme linéaire

Un nombre surprenant de problèmes ont des réductions assez naturelles de la programmation linéaire (LP). Voir le chapitre 7 de [1] pour des exemples tels que les flux de réseau, la correspondance bipartite, les jeux à somme nulle, les chemins les plus courts, une forme de régression linéaire et même une évaluation de circuit!

Puisque l'évaluation du circuit se réduit à une programmation linéaire, tout problème dans $P$ doit avoir une formulation de programmation linéaire. Par conséquent, nous avons un "nouvel" algorithme de tri, via la réduction à un programme linéaire. Donc, mes questions sont

Quel est le programme linéaire qui triera un tableau de $n$ nombres réels?
Quel est le temps d'exécution de l'algorithme de tri de réduction en LP et de résolution?

Algorithmes de S. Dasgupta, C. Papadimitriou et U. Vazirani (2006)

— Joe
source

Spoiler: pine.cs.yale.edu/pinewiki/…

— Joe

Si vous connaissez déjà la réponse, pourquoi posez-vous la question?

— Yuval Filmus

@Joe C'est bien de poster du matériel intéressant même si vous connaissez la réponse. La manière conventionnelle de le faire est de répondre à votre propre question avec une prise (élaborée) (au lieu de publier des liens vers un document qui pourrait se casser).

— Raphael

@Raphael Si personne d'autre n'écrit une réponse, je le ferai quand j'aurai le temps.

— Joe

@YuvalFilmus poser une question dont vous connaissez la réponse est explicitement encouragé lors de l'échange de pile .

— Joe

La réponse suivante est fondamentalement équivalente à celle que vous connaissez déjà, mais peut sembler un peu moins "magique". D'un autre côté, c'est plus technique, mais je pense que la technique générale "écrire votre problème comme une optimisation sur les matrices de permutation et invoquer Birkhoff-von Neumann" est une bonne méthode à connaître.

Pour une permutation de définissez la matrice de permutation comme la matrice 0-1 telle que si et sinon. C'est simplement la matrice qui permute les coordonnées d'un vecteur selon : si alors $\sigma$ $\{1, \ldots, n\}$ $P_\sigma$ $P_{ij} = 1$ $j = \sigma(i)$ $P_{ij}=0$ $x$ $\sigma$ $y = P_\sigma x$ . Je dénoterai $y_i = x_{\sigma(i)}$ que à partirmaintenant. $y=P_{\sigma}x$ $\sigma(x)$

Encore une définition: une matrice non négative est doublement stochastique si chacune de ses lignes et chacune de ses colonnes totalisent 1. $n\times n$ $M$

Et un fait qui est très important dans l'optimisation combinatoire - le théorème de Birkhoff-von Neumann:

Une matrice est doublement stochastique si et seulement si elle est une combinaison convexe de matrices de permutation, c'est-à-dire si et seulement s'il existe des permutations et des réels positifs tels que et . $M$ $\sigma_1, \ldots, \sigma_k$ $\alpha_1 , \ldots, \alpha_k$ $M = \sum_{i = 1}^k{\alpha_i P_{\sigma_i}}$ $\sum{\alpha_i} = 1$

Notez qu'une matrice doublement stochastique est définie par les inégalités

\forall i : \sum_{j = 1}^{n} M_{i j} = 1

$\forall i: \sum_{j = 1}^n{M_{ij}} = 1$

\forall j : \sum_{i = 1}^{n} M_{i j} = 1

$\forall j: \sum_{i = 1}^n{M_{ij}} = 1$

\forall i, j : M_{i j} \geq 0

$\forall i, j: M_{ij} \geq 0$

Toutes ces inégalités prises ensemble déterminent un polytope $P$

$a = (a_1, \ldots, a_n)$ $f_a(M)$ pour lequel:

$f_a(P_\tau) < f_a(P_\sigma)$ $\sigma(a)$ $\tau(a)$ ne l'est pas.

$f_a(M)$ $P_\sigma$ $\sigma$ $\sigma(a)$ $\sigma$ $P_\sigma$ .

$f_a(M)$ $v^T M a$ $v = (1, \ldots, n)$

$M$
$P_\sigma$ $f_a(P_\sigma) = \sum_{i = 1}^n{i a_{\sigma(i)}}$
$\sigma$ $\sigma(a)$ $\sigma(a)$

Et voila, vous avez un programme linéaire de tri. Semble idiot pour le tri, mais c'est en fait une méthode puissante d'optimisation.

— Sasho Nikolov
source

a

$a$

Lorsqu'il existe plusieurs solutions optimales, certaines peuvent ne pas être des matrices de permutation (mais toujours une solution optimale sera une matrice de permutation). Si la fonction objectif est constante, toutes les solutions possibles sont optimales.

— Sasho Nikolov, le

@Turbo le programme linéaire est complètement écrit dans cette réponse. Évidemment, il n'a pas de contraintes d'intégralité. Je ne vais pas tenter de répondre à votre deuxième question. Asseyez-vous et essayez d'écrire l'IG comme optimisant une fonction linéaire sur des matrices doublement stochastiques, comme je l'ai fait ici pour le tri. Voyez par vous-même où cela échoue.

— Sasho Nikolov

En pratique, vous voudrez probablement utiliser le simplexe, mais en théorie, vous pouvez obtenir un algorithme de temps polynomial en utilisant un solveur de temps polynomial LP, par exemple une méthode de point intérieur ou la méthode ellipsoïde. Cela vous donnera un polynôme temporel dans la complexité des bits de

a

$a$ . Lorsque la matrice de contraintes est TUM (comme c'est le cas ici), il existe aussi des solveurs fortement polytemporaires cstheory.stackexchange.com/questions/4454/… .

— Sasho Nikolov

Et oui, la chose la plus simple à faire est de vous assurer d'avoir une solution optimale unique, ce que vous pouvez faire en ajoutant une petite perturbation aléatoire à

a

$a$ .

— Sasho Nikolov