Comment établir qu'une méthode itérative pour les grands systèmes linéaires est convergente dans la pratique?

En science informatique, nous rencontrons souvent de grands systèmes linéaires que nous devons résoudre par des moyens (efficaces), par exemple par des méthodes directes ou itératives. Si nous nous concentrons sur ces derniers, comment pouvons-nous établir qu'une méthode itérative pour résoudre un grand système linéaire est convergente dans la pratique?

Il est clair que nous pouvons faire des essais et des erreurs ( cf.Pourquoi mon solveur linéaire itératif ne converge-t-il pas? ) Et s'appuyer sur des méthodes itératives qui garantissent la convergence par des preuves ou ont une base d'expérience solide (par exemple les méthodes du sous-espace Krylov telles que CG et GMRES pour les systèmes symétriques et non symétriques respectivement).

Mais que peut-on faire pour établir la convergence dans la pratique? et que fait-on?

— Allan P. Engsig-Karup
source

Grande question! Lorsque vous dites «établir la convergence», voulez-vous dire «établir que la solution converge» ou «établir que la convergence se produira»? Je sais, par exemple, que l'objet PETSc KSP a quelques techniques par défaut pour tester la convergence (la norme d'erreur diminue, le nombre maximum d'itérations). Est-ce le genre de réponse que vous recherchez?

— Aron Ahmadia

@aron: Je pense qu'il sera intéressant de voir des réponses abordant les deux problèmes.

— Allan P. Engsig-Karup

Pour de nombreuses équations différentielles partielles apparaissant dans la nature, en particulier avec de fortes non-linéarités ou anisotropies, le choix d'un préconditionneur approprié peut avoir un effet important sur la convergence rapide, lente ou pas du tout de la méthode itérative. Des exemples de problèmes qui sont connus pour avoir des préconditionneurs rapides et efficaces comprennent les équations différentielles partielles fortement elliptiques, où la méthode multigrille atteint fréquemment une convergence rapide. Il existe un certain nombre de tests que l'on peut utiliser pour évaluer la convergence; ici, je vais utiliser la fonctionnalité de PETSc comme exemple, car il s'agit sans doute de la bibliothèque la plus ancienne et la plus mature pour la résolution itérative de systèmes clairsemés d'équations linéaires (et non linéaires).

PETSc utilise un objet appelé KSPMonitor pour surveiller la progression d'un solveur itératif et décider si le solveur a convergé ou divergé. Le moniteur utilise quatre critères différents pour décider s'il doit s'arrêter. Vous trouverez plus de détails sur la discussion ici dans la page de manuel de KSPGetConvergedReason () .

Nous supposons que l'utilisateur résout le système d'équations suivant pour : Nous appelons la supposition actuelle et définissons le résidu fonction du style de préconditionnement: $x$

A x = b

$Ax=b$

\hat{x}

$\hat{x}$

\hat{r}

$\hat{r}$

Préconditionnement à gauche $\left(P^{-1}(Ax − b) \right)$
$\hat{r} = P^{- 1} (A \hat{x} - b)$ $\hat{r}=P^{-1}(A\hat{x}-b)$
Préconditionnement No / Right $\left(AP^{-1}Px = b \right)$
$\hat{r} = A \hat{x} - b$ $\hat{r}=A\hat{x}-b$

Critères de convergence

Tolérance absolue - Le critère de tolérance absolue est satisfait lorsque la norme du résidu est inférieure à la constante prédéfinie : $a_{tol}$ $‖ \hat{r} ‖ \leq a_{t o l}$ $\|\hat{r}\| \le a_{tol}$
Tolérance relative - Le critère de tolérance relative est satisfait lorsque la norme du résidu est inférieure à la norme du côté droit par un facteur de constante prédéfinie : $r_{tol}$ $‖ \hat{r} ‖ \leq r_{t o l} \cdot ‖ b ‖$ $\|\hat{r}\| \le r_{tol}\cdot \|b\|$
Autres critères - La résolution itérative peut également converger en raison de la détection d'une petite longueur de pas ou d'une courbure négative.

Critères de divergence

Nombre maximal d'itérations - Le nombre d'itérations qu'un solveur peut effectuer est limité par le nombre maximal d'itérations. Si aucun des autres critères n'a été satisfait lorsque le nombre maximal d'itérations est atteint, le moniteur revient comme divergé.
NaN résiduel - Si à tout moment le résidu est évalué à NaN, le solveur revient comme divergé.
Divergence de la norme résiduelle Le moniteur retourne comme divergé si à tout moment la norme du résidu est supérieure à la norme du côté droit par un facteur de constante prédéfinie : $d_{tol}$
$‖ \hat{r} ‖ \geq d_{t o l} \cdot ‖ b ‖$ $\|\hat{r}\| \ge d_{tol}\cdot \|b\|$
Répartition du solveur La méthode Krylov elle-même peut signaler une divergence si elle détecte une matrice singulière ou un préconditionneur.

— Aron Ahmadia
source