Quelle est la complexité temporelle réelle de l’élimination gaussienne?

En réponse à une question précédente , j'ai mentionné la croyance commune mais fausse selon laquelle l' élimination «gaussienne» se fait dans le temps $O(n^3)$ . Bien qu'il soit évident que l'algorithme utilise des opérations arithmétiques $O(n^3)$ , une mise en œuvre négligente peut créer des nombres avec un nombre exponentiel de bits. Comme exemple simple, supposons que nous voulions diagonaliser la matrice suivante:

[\begin{matrix} 2 & 0 & 0 & \dots & 0 \\ 1 & 2 & 0 & \dots & 0 \\ 1 & 1 & 2 & \dots & 0 \\ ⋮ & ⋮ & ⋮ & ⋱ & ⋮ \\ 1 & 1 & 1 & \dots & 2 \end{matrix}]

$\begin{bmatrix} 2 & 0 & 0 & \cdots & 0 \\ 1 & 2 & 0 & \cdots & 0 \\ 1 & 1 & 2 & \cdots & 0 \\ \vdots & \vdots & \vdots & \ddots & \vdots\\ 1 & 1 & 1 & \cdots & 2 \\ \end{bmatrix}$

Si nous utilisons une version de l’algorithme d’élimination sans division, qui n’ajoute que des multiples entiers d’une ligne à une autre, et que nous pivotons toujours sur une entrée diagonale de la matrice, la matrice de sortie possède le vecteur $(2, 4, 16, 256, \dots, 2^{2^{n-1}})$ long de la diagonale.

Mais quelle est la complexité temporelle réelle de l'élimination gaussienne? La plupart des auteurs d'optimisation combinatoire semblent satisfaits du terme «fortement polynomial», mais je suis curieux de savoir ce qu'est réellement le polynôme.

$n\times n$ $m$ $O(n(m+\log n))$ $m=O(\log n)$ $O(n^5)$ $\tilde{O}(n^4)$ $O(\log n)$

Est-ce toujours la meilleure analyse connue? Existe-t-il une référence standard qui donne une meilleure limite de temps explicite, ou du moins une meilleure limite de précision?

Plus généralement: Quel est le temps d'exécution (sur la RAM entière) de l'algorithme le plus rapide connu pour résoudre des systèmes arbitraires d'équations linéaires?

ds.algorithms reference-request linear-algebra

— Jeffε
source

(insérer une main violente) ne pourriez-vous pas contourner le problème des grands nombres entiers dans ce cas particulier en utilisant le hachage modulo de petits tours principaux? l'algorithme serait aléatoire, mais quand même .. Certes, cela ne répond pas à la question que vous avez posée ...

— Suresh Venkat

O (n^{3} M_{B} [n (\log n + L)])

$O(n^3 M_B[n (\log n + L)])$

L'algorithme d'élimination gaussien standard divise la ligne de pivot par l'élément pivot avant de réduire les lignes suivantes. La question ouverte fait référence à cette version standard. L'exemple que j'ai donné au début de ma question utilise une variante différente, qui ne se divise PAS par l'élément pivot.

— Jeffε

Curieuse. La limite temporelle de Yap pour l'algorithme de Bereiss est identique à la limite temporelle impliquée par l'analyse par Edmonds de l'élimination de Gauss.

— Jeffε

rjlipton a récemment étudié la région et cite sa thèse de doctorat sur le sujet. une partie essentielle de l'analyse concerne la forme normale de Smith

— vzn

Réponses:

$\widetilde O(n^3 \log( \|A\| + \|b\|))$

— Elias
source

Merci pour la référence! Cela répond à ma deuxième question, mais pas à la première.

— Jeffε

Si vous utilisez un pivot, alors la taille des résultats intermédiaires en élimination gaussienne (GE) est polynomiale, il n'y a pas d'explosion exponentielle. Je pense que c'est le résultat de Bareiss. En ce qui concerne la complexité de GE, il existe un algorithme dans le livre de Gathen et Gerhard, "Modern Computer Algebra" pour calculer le déterminant d’une matrice , basé sur GE, l’arithmétique modulaire et le théorème du reste chinois (Sec. 5.5, pp 101-105). La complexité est . Je pense qu'un facteur de pourrait être économisé en utilisant une arithmétique rapide. Si je ne me trompe pas, c'est la limite que l'utilisateur 834 a mentionnée.

A

$A$

O (n^{4} \log^{2} ‖ A ‖)

$O(n^4 \log^2\|A\|)$

n

$n$

— Elias

@ Elias, quelle est la définition de la norme dans cette expression? Est-ce le plus grand coefficient en taille absolue? Est-ce la taille du bit? De plus, ce résultat concerne-t-il des matrices rationnelles arbitraires?

— Juan Bermejo Vega

Je pense que la réponse à votre première question est aussi raison des arguments suivants: Le document de Edmonds ne décrit pas une variante de l'élimination gaussienne mais cela prouve que tout nombre calculé dans une étape de l'algorithme est un facteur déterminant de la sous-matrice de A. Dans le livre de Schrijver sur la théorie de la programmation linéaire et en nombres entiers, nous savons que si le codage de A nécessite b bits (b devrait être dans $\widetilde O(n^3 \log( \|A\| + \|b\|))$ $\widetilde O(\log( \|A\|)$ ) alors n'importe lequel de ses sous-déterminants a besoin d'au plus 2b bits (théorème 3.2). Afin de faire de l’élimination gaussienne un algorithme polynomial, nous devons nous soucier des quotients calculés: nous devons annuler les facteurs communs de chaque fraction calculée à n’importe quelle étape intermédiaire, puis tous les nombres ont une longueur de codage linéaire dans la longueur de codage de A.

— Matthias Walter
source