Que signifie «variationnel»?

L'utilisation de «variationnel» fait-elle toujours référence à l'optimisation via l'inférence variationnelle?

Exemples:

• "Auto-encodeur variationnel"
• "Méthodes bayésiennes variationnelles"
• "Groupe de renormalisation variationnelle"

Cela signifie utiliser l'inférence variationnelle (au moins pour les deux premiers).

En bref, c'est une méthode pour approximer le maximum de vraisemblance lorsque la densité de probabilité est compliquée (et donc le MLE est difficile).

Il utilise Evidence Lower Bound (ELBO) comme proxy de ML:

$log(p(x)) \geq \mathbb{E}_q[log(p, Z)] - \mathbb{E}_q[log(q(Z))]$

$q$$Z$

$q$

Il y a un joli tutoriel sur l'inférence variationnelle par David Blei que vous pouvez vérifier si vous voulez une description plus concrète.

ÉDITER:

$KL(q, p)$