Critère d'arrêt pour Nelder Mead

11

J'essaie d'implémenter l'algorithme Nelder-Mead pour optimiser une fonction. La page wikipedia sur Nelder-Mead est étonnamment claire sur l'ensemble de l'algorithme, à l'exception de son critère d'arrêt. Là, il dit malheureusement:

Vérifier la convergence _{[clarification nécessaire]} .

J'ai moi-même essayé et testé quelques critères:

Arrêtez si où est petit et où est le ème sommet du simplexe, ordonné de bas ( ) à haut ( $f(x_{N+1}) - f(x_1) < \epsilon$ $\epsilon$ $x_i$ $i$ $f(x_1)$ $f(x_{N+1})$ ) valeurs de fonction. En d'autres termes, lorsque la valeur maximale du simplex est presque égale à la valeur minimale. J'ai trouvé que cela ne fonctionnait pas correctement, car cela ne donne aucune garantie sur ce que fait la fonction à l'intérieur du simplex. Exemple, considérons la fonction: Ceci est bien sûr trivial à optimiser, mais disons que nous le faisons avec NM, et que nos deux points simplex soient et . L'algorithme convergerait ici sans trouver son optimum.
$F (X) = X^{2}$ $f(x) = x^2$ $x_1 = -1$ $x_2=1$
La deuxième option consiste à évaluer le centroïde du simplexe: arrêtez si . Cela suppose que si le point le plus bas du simplexe et du centroïde ont des valeurs similaires, le simplexe est suffisamment petit pour appeler la convergence. $|f(x_1) - f(x_c)| < \epsilon$

Est-ce une bonne façon de vérifier la convergence? Ou existe-t-il un moyen établi de vérifier cela? Je n'ai trouvé aucune source à ce sujet, car la plupart des résultats de recherche se concentrent sur la complexité de l'algorithme.

optimization algorithms

— JAD
source

1. Je ne comprends pas pourquoi vous comparez ce qui se passe à

avec

; vous voudriez sûrement le comparer avec ce qui se passe à

x_{N + 1}

$x_{N+1}$

x_{1}

$x_1$

. 2. les contrôles de convergence sont un domaine particulièrement délicat dans de nombreuses optimisations; vous avez besoin que la fonction ne change pas beaucoup, mais si les arguments changent rapidement (même si la fonction change à peine) vous n'avez peut-être pas convergé, donc les gens utilisent souvent des critères qui regardent les deux. Il y a aussi la question de savoir si vous utilisez un critère relatif ou absolu (ni l'un ni l'autre ne suffit - par exemple, un test relatif lorsque vous êtes très proche de 0 ne sera pas déclenché)

x_{N}

$x_N$

— Glen_b -Reinstate Monica

3

Le meilleur critère d'arrêt pour Nelder Mead est avant de commencer.

— Mark L. Stone

Juste pour éviter toute confusion par rapport à la notation dans @ Glen_b ... Je pense que les indices ici se réfèrent aux sommets du simplexe, pas à l'itération de l'algorithme. Pour que le premier critère de convergence proposé dans cette question, compare les valeurs de fonction les plus basses et les plus élevées des sommets dans l' espace des paramètres à

dimensions ... ce n'est pas explicitement indiqué dans la question, mais la description de l'algorithme sur la page wikipedia liée ( et dans le papier d'origine) ordonner les

sommets de la valeur de fonction la plus basse à la plus élevée.

N

$N$

N + 1

$N+1$

— Nate Pope

@NatePope C'était mon intention oui, je vais ajouter une clarification à la question. \

— JAD

6

Le récit de cet "algorithme du simplex de descente" dans les versions originales de Recettes numériques est particulièrement lucide et utile. J'en citerai donc les parties pertinentes. Voici le contexte:

Dans la minimisation unidimensionnelle, il était possible de fixer un minimum .... Hélas! Il n'y a pas de procédure analogue dans l'espace multidimensionnel. ... Le mieux que nous puissions faire est de donner à notre algorithme une hypothèse de départ; c'est-à-dire un vecteur de variables indépendantes comme premier point à essayer. L'algorithme est ensuite censé se frayer un chemin dans la complexité inimaginable d'une topographie à dimensions jusqu'à ce qu'il rencontre un minimum (au moins local). $N$ $N$

La méthode du simplex de descente doit être démarrée non seulement avec un seul point, mais avec points, définissant un simplex initial. [Vous pouvez considérer ces points comme un point de départ initial avec] où $N+1$ $P_0$
$\begin{matrix} (10.4.1) & P_{je} = P_{0} + λ e_{je} \end{matrix}$ $P_i = P_0 + \lambda e_i\tag{10.4.1}$ $e_i$ sont vecteurs unitaires et où est une constante qui est votre estimation de la caractéristique du problème échelle de longueur. ... $N$ $\lambda$
La plupart des étapes [déplacent] simplement le point du simplex où la fonction est la plus grande («point le plus élevé») à travers la face opposée du simplex vers un point inférieur. ...

Maintenant, pour le problème à résoudre, terminer l'algorithme. Notez la généralité du compte: les auteurs fournissent des conseils intuitifs et utiles pour terminer tout optimiseur multidimensionnel, puis montrent spécifiquement comment il s'applique à cet algorithme particulier. Le premier paragraphe répond à la question qui nous est posée:

Les critères de résiliation peuvent être délicats .... Nous pouvons généralement identifier un "cycle" ou "étape" de notre algorithme multidimensionnel. Il est alors possible de terminer lorsque la distance vectorielle déplacée dans cette étape est fractionnellement plus petite que certaines tolérances TOL. Alternativement, nous pourrions exiger que la diminution de la valeur de la fonction dans l'étape de fin soit légèrement inférieure à une certaine tolérance FTOL. ...

$N$ $N+1$ $(10.4.1)$ $P_0$

Les redémarrages ne devraient jamais être très coûteux; votre algorithme a, après tout, convergé vers le point de redémarrage une fois, et maintenant vous démarrez l'algorithme déjà là.

[Pages 290-292.]

$x$ $y$ $T\gt 0$

\begin{matrix} (1) & \frac{| X | - | y |}{F (X, y)} = 2 \frac{| X | - | y |}{| X | + | y |} < T \end{matrix}

$\frac{|x| - |y|}{f(x,y)} = 2\frac{|x|-|y|}{|x| + |y|} \lt T\tag{1}$

$f(x,y) = (|x|+|y|)/2$

$(1)$

Référence

William H. Press et al. , Recettes numériques: L'art du calcul scientifique. Cambridge University Press (1986). Visitez http://numerical.recipes/ pour les dernières éditions.

— whuber
source

1

Merci pour les informations sur le redémarrage. Je pensais que cela ne faisait qu'exécuter l'algorithme à partir de différents points de départ, mais il semble en fait y avoir plus.

— JAD

Je n'avais pas pensé auparavant aux significations possibles de "redémarrage". Dans le contexte actuel, j'aurais peut-être utilisé un terme comme «polissage» pour le «redémarrage», mais ce n'est peut-être pas tout à fait correct non plus. Le type de «redémarrage» préconisé pour la méthode simplex peut lui être assez spécial.

— whuber

9

Pas une réponse complète, mais trop longue pour un commentaire et peut vous mettre sur la bonne voie.

Ce sujet est brièvement traité à la page 171 de "Compact Numerical Methods for Computers" 2nd Ed., Par John C. Nash. Et se trouve être la référence citée pour la routine Nelder-Mead implémentée dans la optim()fonction de R. Citant la partie pertinente:

$t e s t = {[(\sum_{je = 1}^{n + 1} [S (b_{je}) - \bar{S}]^{2}) / n]}^{1 / 2}$ $\mathrm{test} = \left[ \left( \sum_{i=1}^{n+1}[S(b_i) - \bar{S}]^2 \right) / n \right]^{1/2}$ $\bar{S} = \sum_{je = 1}^{n + 1} S (b_{je}) / (n + 1) .$ $\bar{S} = \sum_{i=1}^{n+1} S(b_i)/(n+1).$

$S(.)$ $b$ $n+1$ $n$ $b_H$ $b_L$

$S(b_L)$ $S(b_H)$ , c'est-à-dire , un test de hauteur égale de tous les points du simplexe.

Un coup d'œil rapide à la source de optim()indique qu'il utilise la différence entre les valeurs de fonction les plus élevées et les plus basses (des points définissant le simplexe) pour déterminer la convergence: if (VH <= VL + convtol || VL <= abstol) break;OùVH est la valeur haute et VLla valeur basse. Cela vient avec la mise en garde que j'ai jeté un coup d'œil à la source, et il me manque probablement quelque chose.

Maintenant, votre option (1) semble être la deuxième approche préconisée par Nash. Il discute également du problème que vous avez rencontré:

$(n+1)$ $(n-1)$ $n$ espace à dimensions et peut ne pas pouvoir avancer vers le minimum. O'Neill (1971), dans une mise en œuvre FORTRAN des idées de Nelder-Mead, teste la valeur de la fonction de chaque côté du minimum supposé le long de chacun des axes des paramètres. Si une valeur de fonction est trouvée inférieure au minimum supposé actuel, la procédure est redémarrée.

Les références originales auxquelles Nash fait référence ici sont:

Nelder JA, Mead R. 1965. Une méthode simplex pour la minimisation des fonctions. The Computer Journal 7: 308-313.

O'Neill R. 1971. Algorithme AS 47: minimisation des fonctions à l'aide d'une procédure simplex. Statistiques appliquées 20: 338-345.

— Nate Pope
source

3

F_{min} (t) \equiv {min}_{tous les coins} F (X_{je}, t)

$f_{\text{min}}(t) \equiv \text{min}_{\text{all corners}} \ f(X_i, t)$

# stop when you run out of patience, no improvement for say 10 iterations in a row:
if t > tbest + patience:
    message = "iter %d: f %g >= fbest %g" ...
    return message, fbest, xbest

$n+1$

le problème: terrain accidenté, peut-être avec une mauvaise mise à l'échelle ou des contraintes stupides
l'algorithme, équilibrant l'exploration et le déplacement (et la complexité du logiciel)
la règle d'arrêt proprement dite

reste à voir - de vrais cas de test sont les bienvenus.

(Une vraie Stopiterclasse a de nombreuses conditions d'arrêt, en plus depatience ; l'horloge murale est la plus simple.)

Voir aussi:
NLopt : de nombreux algorithmes dont Nelder-Mead, faciles à comparer. Voir en particulier les notes sur la comparaison des algorithmes de
descente : la patience s'arrête avecmin_improvement

— denis
source