Traduire un problème d'apprentissage automatique dans un cadre de régression

Supposons que j'ai un panel de variables explicatives , pour , , ainsi qu'un vecteur de variables binaires dépendantes du résultat . Donc n'est observé qu'au moment final et pas à un moment antérieur. Le cas tout à fait général est d'avoir plusieurs pour pour chaque unité à chaque instant , mais concentrons-nous sur le cas par souci de concision. $X_{it}$ $i = 1 ... N$ $t = 1 ... T$ $Y_{iT}$ $Y$ $T$ $X_{ijt}$ $j=1...K$ $i$ $t$ $K=1$

Les applications de ces paires "déséquilibrées" avec des variables explicatives temporelles corrélées sont par exemple (cours des actions quotidiennes, dividendes trimestriels), (bulletins météorologiques quotidiens, ouragans annuels) ou (caractéristiques de la position des échecs après chaque mouvement, résultat de la victoire / de la perte à la fin du jeu). $(X, Y)$

Je suis intéressé par les coefficients de régression (éventuellement non linéaires) pour faire la prédiction de , sachant que dans les données d'entraînement, étant donné les premières observations de pour , cela conduit au résultat final $\beta_t$ $Y_{it}$ $X_{it}$ $t < T$ $Y_{iT}$

$\hat{Y}_{it} = f(\sum_{k=1}^{t} X_{ik} \beta_k), \quad t = 1 ... T$

Issu d'un contexte d'économétrie, je n'ai pas vu beaucoup de modélisation de régression appliquée à ces données. OTOH, j'ai vu les techniques d'apprentissage automatique suivantes appliquées à ces données:

effectuer un apprentissage supervisé sur l'ensemble des données, par exemple en minimisant

$\sum_{i,t}\frac{1}{2}(Y_{it} - f(X_{it} \beta_t))^2$

en extrapolant / imputant simplement le observé à tous les points précédents dans le temps $Y$

$Y_{it} \equiv Y_{iT}, \quad t = 1... T-1$

Cela semble "faux" car il ne tiendra pas compte de la corrélation temporelle entre les différents points dans le temps.

faire un apprentissage par renforcement tel que la différence temporelle avec le paramètre d'apprentissage et le paramètre d'actualisation , et résoudre récursivement pour par à partir de $\alpha$ $\lambda$ $\beta_t$ $t=T$

$\Delta \beta_{t} = \alpha (\hat{Y}_{t+1} - \hat{Y}_{t}) \sum_{k=1}^{t} \lambda^{t-k} \nabla_{\beta} \hat{Y}_{k}$

avec le gradient de par rapport à . $\nabla_{\beta} \hat{Y}$ $f()$ $\beta$

Cela semble plus "correct" car il prend en compte la structure temporelle, mais les paramètres et sont plutôt "ad hoc". $\alpha$ $\lambda$

Question : existe-t-il de la littérature sur la façon de mapper les techniques d'apprentissage supervisé / renforcé ci-dessus dans un cadre de régression tel qu'il est utilisé dans les statistiques / économétrie classiques? En particulier, j'aimerais pouvoir estimer les paramètres en une seule fois (c'est-à-dire pour tous les simultanément) en faisant des moindres carrés (non linéaires) ou un maximum de vraisemblance sur des modèles tels que $\beta_{t}$ $t=1...T$

$Y_{iT} = f(\sum_{t=1}^T X_{it} \beta_{t}) + \epsilon_{i}$

Je serais également intéressé de savoir si la différence temporelle d'apprentissage des méta-paramètres et pourrait être récupérée à partir d'une formulation à maximum de vraisemblance. $\alpha$ $\lambda$

regression machine-learning reinforcement-learning

— TemplateRex
source

Pourriez-vous clarifier la formulation du troisième paragraphe? Vous écrivez que vous voulez prédire partir de , , mais la formule suivante suggère que vous voulez prédire .

Y_{i T}

$Y_{iT}$

X_{i t}

$X_{it}$

t < T

$t < T$

Y_{i t}

$Y_{it}$

— NRH

@NRH en fait, je n'observe que , mais ce que j'ai vu dans la littérature sur l'apprentissage supervisé, c'est qu'ils imputent le non observé comme étant égal à , puis font l'ajustement pour expliquer réellement ce faux de (cela se fait dans les applications de jeu, où une fonction d'évaluation pour chaque position est ajustée sur le résultat final du jeu). Désolé si cela ne ressort pas clairement de ma formulation initiale. Dans tous les cas, serait le "résultat" prévu (dans les applications de jeu) compte tenu des événements observés .

Y_{i T}

$Y_{iT}$

Y_{i t}

$Y_{it}$

Y_{i T}

$Y_{iT}$

Y_{i t}

$Y_{it}$

X_{i t}

$X_{it}$

{\hat{Y}}_{i t}

$\hat{Y}_{it}$

X_{i t}

$X_{it}$

— TemplateRex

Y_{i T}

$Y_{iT}$

Y_{i t}

$Y_{it}$

t

$t$

Y_{i T}

$Y_{iT}$

Y_{i t}

$Y_{it}$

ce n'est pas clair pourquoi vous voulez faire ça. Si vous pouvez expliquer l'application pratique réelle, vous pourriez obtenir des réponses plus claires. En général, la meilleure prédiction pour chaque intervalle de temps sera simplement de faire une régression de sur les données disponibles séparément pour chaque t. Il n'est pas évident qu'une approche simultanée présente un quelconque avantage. Je pense que vous devez spécifier le modèle statistique de votre ensemble de données et peut-être que les avantages sont plus clairs.

Y_{T}

$Y_T$

X_{1}, \dots, X_{t}

$X_1,\dots,X_t$

— seanv507

@NRH, oui, je veux prédire partir de sachant que cela conduit au résultat dans les données d'entraînement, afin de prendre des mesures optimales pour les données de test où j'observe également mais n'ont pas encore observé le résultat. Va mettre à jour ma formulation.

Y_{i t}

$Y_{it}$

X_{i t}

$X_{it}$

Y_{i T}

$Y_{iT}$

X_{i t}

$X_{it}$

— TemplateRex

La description du problème n'est pas entièrement claire pour moi, donc j'essaie de deviner certaines hypothèses. Si cela ne répond pas à votre question, cela pourrait au moins aider à clarifier davantage les problèmes.

$Y_T$ $t<T$ $X_\tau$ $\tau>t$

$Y_t$ $X_1,\ldots, X_t$ $t<T$ $Y_t=\text{E}[Y_T \mid X_1,\ldots, X_t]$ $Y_T$

$X_1, \ldots, X_t$ $t$

$t<T$

— gg
source

X_{i t}

$X_{it}$

Y_{i T}

$Y_{iT}$

{\hat{Y}}_{i t}

$\hat{Y}_{it}$

Y_{i T}

$Y_{iT}$

$\alpha$
$\gamma$ $\gamma=1$

— nsweeney
source

α

$\alpha$

γ

$\gamma$

α

$\alpha$

γ

$\gamma$