Taille du pas de descente de gradient adaptatif lorsque vous ne pouvez pas faire de recherche de ligne

J'ai une fonction objective $E$ dépendante d'une valeur $\phi(x, t = 1.0)$ , où $\phi(x, t)$ est la solution d'un PDE. J'optimise $E$ par descente de gradient sur la condition initiale de la PDE: $\phi(x, t = 0.0)$ . Autrement dit, je mets à jour $\phi(x, t = 0.0)$puis dois intégrer le PDE pour calculer mon résidu. Cela signifie que si je faisais une recherche de ligne pour la taille du pas de descente de gradient (appelez-la $\alpha$ ), pour chaque valeur potentielle de $\alpha$ je devrais réintégrer la PDE.

Dans mon cas, ce serait trop cher. Existe-t-il une autre option pour la taille de pas de descente de gradient adaptatif?

Je ne recherche pas seulement des schémas de principes mathématiques ici (bien que ce soit mieux si quelque chose existe), mais je serais satisfait de tout ce qui est généralement mieux qu'une taille de pas statique.

Merci!

Je vais commencer par une remarque générale: les informations de premier ordre (c'est-à-dire, en utilisant uniquement des gradients, qui codent la pente) ne peuvent que vous donner des informations directionnelles: elles peuvent vous dire que la valeur de la fonction diminue dans le sens de la recherche, mais pas pendant combien de temps . Pour décider jusqu'où aller dans la direction de la recherche, vous avez besoin d'informations supplémentaires (la descente de gradient avec des longueurs de pas constantes peut échouer même pour des problèmes quadratiques convexes). Pour cela, vous avez essentiellement deux choix:

1. $1$
2. Essais et erreurs (j'entends par là bien sûr utiliser une recherche de ligne appropriée comme Armijo).

$\mathcal{O}(1)$

$\alpha_0>0$$g^0:=\nabla f(x^0)$$k=0,...$

1. $s^k = -\alpha_k^{-1} g^k$$x^{k+1}=x^k+s^k$
2. $g^{k+1}=\nabla f(x^{k+1})$$y^k = g^{k+1}-g^{k}$
3. $\alpha_{k+1} = \frac{(y^k)^Ty^k}{(y^k)^Ts^k}$

$f(x^{k+1})$$f(x^k)$$\sigma_k \in (0,\alpha_k^{-1})$

$$f(x^k - \sigma_k g^k) \leq \max_{\max(k-M,1)\leq j\leq k} f(x^j) - \gamma \sigma_k (g^k)^Tg^k,$$ $\gamma\in(0,1)$$M$$M=10$

Une approche alternative (et, à mon avis, bien meilleure) consisterait à utiliser déjà cette approximation aux différences finies dans le calcul de la direction de recherche; c'est ce qu'on appelle une méthode quasi-Newton . L'idée est de construire progressivement une approximation de la Hesse en utilisant des différences de gradients. Par exemple, vous pouvez prendre (la matrice d'identité) et pour résoudre et définissez avec comme ci-dessus et . (Cela s'appelle la mise à jour Broyden$\nabla^2 f(x^k)$$H_0=\mathrm{Id}$$k=0,\dots$

$$H_{k}s^{k} = -g^{k},\label{cc1}\tag{1}$$ $$H_{k+1} = H_k + \frac{(y^k-H_ks^k)^T(s^k)^T}{(s^k)^Ts^k}$$ $y^k$$x^{k+1} = x^k +s^k$et est rarement utilisé dans la pratique; une mise à jour meilleure mais légèrement plus compliquée est la mise à jour BFGS , pour laquelle - et plus d'informations - je me réfère au livre de Nocedal et Wright Numerical Optimization .) L'inconvénient est que a) cela nécessiterait la résolution d'un système linéaire à chaque étape (mais seulement de la taille de l'inconnu qui dans votre cas est une condition initiale, donc l'effort doit être dominé par la résolution des PDE pour obtenir le gradient; il existe également des règles de mise à jour pour les approximations de la Hesse inverse , qui ne nécessitent que le calcul d'une seule matrice -produit vectoriel) et b) vous avez encore besoin d'une recherche de ligne pour garantir la convergence ...

Heureusement, dans ce contexte, il existe une approche alternative qui utilise chaque évaluation de fonction. L'idée est que pour symétrique et positif défini (qui est garanti pour la mise à jour BFGS), la résolution de équivaut à minimiser le modèle quadratique Dans une méthode de région de confiance , vous le feriez avec la contrainte supplémentaire que , où est un rayon de région de confiance choisi de manière appropriée (qui joue le rôle de la longueur de pas ). L'idée clé est maintenant de choisir ce rayon de manière adaptative, en fonction de l'étape calculée. Plus précisément, vous regardez le rapport $H_k$$\eqref{cc1}$

$$q_k(s) = \frac12 s^T H_k s + s^T g^k.$$ $\|s\| \leq \Delta_k$$\Delta_k$$\sigma_k$ $$\rho_k := \frac{f(x^k)-f(x^k+s^k)}{f(x^k)-q_k(s^k)}$$ de la réduction réelle et prévue de la valeur de la fonction. Si est très petit, votre modèle était mauvais et vous jetez et réessayez avec . Si est proche de , votre modèle est bon et vous définissez et augmentez . Sinon, vous définissez simplement et laissez seul. Pour calculer le minimiseur réel de$\rho_k$$s^k$$\Delta_{k+1}<\Delta_k$$\rho_k$$1$$x^{k+1}=x^k+s^k$$\Delta_{k+1}>\Delta_k$$x^{k+1}=x^k+s^k$$\Delta_k$$s^k$$\min_{\|s\|\leq \Delta_k} q_k(s)$, il existe plusieurs stratégies pour éviter d'avoir à résoudre le problème d'optimisation entièrement contraint; mon préféré est la méthode CG tronquée de Steihaug . Pour plus de détails, je me réfère à nouveau à Nocedal et Wright.