Comment puis-je ajuster une régression contrainte dans R afin que les coefficients totaux = 1?

36

Je vois une régression similaire similaire ici:

Régression linéaire contrainte à travers un point spécifié

mais mon exigence est légèrement différente. Il me faut les coefficients pour faire un total de 1. Plus précisément, je régresse les rendements d'une série de devises contre trois autres séries de devises, de sorte que les investisseurs puissent remplacer leur exposition à cette série par une combinaison de l'exposition aux 3 autres, mais leur les dépenses en espèces ne doivent pas changer, et de préférence (mais ce n'est pas obligatoire), les coefficients doivent être positifs.

J'ai essayé de rechercher une régression contrainte dans R et Google mais avec peu de chance.

r regression

— Thomas Browne
source

Êtes-vous sûr qu'il s'agit d'un problème de régression limité? En lisant la question, vous recherchez une relation de la forme (une série Forex) = (plus, je suppose, un quatrième terme représentant un taux de rendement sûr dominant). C'est indépendant de la décision d'investissement. Si un client veut investir capital dans

utilisant

,

et

comme proxy, il investira simplement

dans

,

dans

et

dans

y_{4}

$y_4$

β_{1} y_{1} + β_{2} y_{2} + β_{3} y_{3}

$\beta_1 y_1 + \beta_2 y_2 + \beta_3 y_3$

c

$c$

y_{4}

$y_4$

y_{1}

$y_1$

y_{2}

$y_2$

y_{3}

$y_3$

c β_{1}

$c\beta_1$

y_{1}

$y_1$

c β_{2}

$c\beta_2$

y_{2}

$y_2$

c β_{3}

$c\beta_3$

y_{3}

$y_3$ . Cela n'ajoute aucune complication particulière à la régression, n'est-ce pas?

— whuber

C'est parce que si vous modélisez ceci, vous constaterez que B1 + B2 + B3> 1 dans de nombreux cas (ou <1 dans d'autres). En effet, la devise que l'on essaie de répliquer avec les descripteurs aura généralement une volatilité plus grande ou plus petite que les autres, de sorte que la régression vous donnera une pondération plus petite ou plus grande en réponse. Cela nécessite que l’investisseur soit ne soit pas pleinement investi, soit mette à profit ce que je ne souhaite pas. Quant au taux de rendement sûr no. Tout ce que nous essayons de faire est de répliquer series1 en utilisant d'autres variables. Étant un financier et non un statisticien, j'ai peut-être mal nommé ma question.

— Thomas Browne

La raison pour inclure un terme pour un taux de rendement sûr est que parfois il aura un coefficient différent de zéro. Vraisemblablement, des instruments sécurisés (dépôts bancaires au jour le jour) sont accessibles à tous à faible coût, de sorte que quiconque l'ignorant en tant que composante de son panier d'investissement pourrait choisir des combinaisons non optimales. Maintenant, si les coefficients n’ajoutent pas à l’unité, alors quoi? Il suffit d’investir autant que vous le souhaitez dans les proportions estimées par la régression.

— whuber

droit ..... aussi simple que ça. Merci. Je me sens un peu bête maintenant haha.

— Thomas Browne

1

Pas idiot du tout. Le simple fait de poser cette question reflète un niveau élevé de réflexion. Je vérifiais simplement ma propre compréhension de votre question pour m'assurer que vous obteniez une réponse efficace. À votre santé.

— whuber

35

Si je comprends bien, votre modèle est avec et . Vous devez minimiser sous réserve de ces contraintes. Ce type de problème est connu sous le nom de programmation quadratique .

Y = π_{1} X_{1} + π_{2} X_{2} + π_{3} X_{3} + ε,

$Y = \pi_1 X_1 + \pi_2 X_2 + \pi_3 X_3 + \varepsilon,$

\sum_{k} π_{k} = 1

$\sum_k \pi_k = 1$

π_{k} \geq 0

$\pi_k\ge0$

\sum_{i} {(Y_{i} - (π_{1} X_{i 1} + π_{2} X_{i 2} + π_{3} X_{i 3}))}^{2}

$\sum_i \left(Y_i - (\pi_1 X_{i1} + \pi_2 X_{i2} + \pi_3 X_{i3}) \right)^2$

Voici quelques lignes de codes R donnant une solution possible ( sont les colonnes de , les valeurs vraies de sont 0.2, 0.3 et 0.5). $X_1, X_2, X_3$ X $\pi_k$

> library("quadprog");
> X <- matrix(runif(300), ncol=3)
> Y <- X %*% c(0.2,0.3,0.5) + rnorm(100, sd=0.2)
> Rinv <- solve(chol(t(X) %*% X));
> C <- cbind(rep(1,3), diag(3))
> b <- c(1,rep(0,3))
> d <- t(Y) %*% X  
> solve.QP(Dmat = Rinv, factorized = TRUE, dvec = d, Amat = C, bvec = b, meq = 1)
$solution
[1] 0.2049587 0.3098867 0.4851546

$value
[1] -16.0402

$unconstrained.solution
[1] 0.2295507 0.3217405 0.5002459

$iterations
[1] 2 0

$Lagrangian
[1] 1.454517 0.000000 0.000000 0.000000

$iact
[1] 1

Je ne connais aucun résultat sur la distribution asymptotique des estimateurs, etc. Si quelqu'un a des indicateurs, je serais curieux d'en obtenir (si vous le souhaitez, je peux ouvrir une nouvelle question à ce sujet).

— Elvis
source

En fait question rapide. Ne devrais-je pas minimiser la variance plutôt que la somme? N’est-ce pas une régression qui minimise la variance du carré des erreurs?

— Thomas Browne

6

C'est intelligent, Elvis, mais ne pourriez-vous pas accomplir la même chose simplement en reparamétrant la régression? Soit Cela équivaut à . Les estimations et les erreurs types de sont à calculer à partir des estimations et de la matrice var-covar de et .

Y = α_{1} X_{1} + α_{2} X_{2} + (1 - α_{1} - α_{2}) X_{3} + ε

$Y = \alpha_1 X_1 + \alpha_2 X_2 + (1-\alpha_1-\alpha_2)X_3 +\varepsilon$

Y - X_{3} = α_{1} (X_{1} - X_{3}) + α_{2} (X_{2} - X_{3}) + ε

$Y-X_3 = \alpha_1(X_1-X_3) + \alpha_2(X_2-X_3)+\varepsilon$

π_{i}

$\pi_i$

α_{1}

$\alpha_1$

α_{2}

$\alpha_2$

— whuber

6

@whuber Oui, mais avec des données plus bruitées ou avec certains des proches de , vous facilement la contrainte , qui constitue la partie "difficile" du problème.

π_{k}

$\pi_k$

0

$0$

π_{k} > 0

$\pi_k > 0$

— Elvis

2

Un coefficient positif vous indique d'acheter une devise étrangère; un coefficient négatif vous dit de le vendre. Si vous ne possédez pas déjà cette devise, vous devez l'emprunter pour la vendre ("vendre à découvert"). Parce que des emprunts illimités peuvent créer des problèmes, il existe des contraintes quant au montant de l'emprunt et à son mode de paiement ("exigences de marge", "coûts de constitution du capital" et "procédures d'évaluation à la valeur du marché"). Par conséquent, l’emprunt est possible mais est souvent évité sauf par les principaux acteurs des marchés ou à moins que cela ne confère d’importants avantages.

— whuber

2

Un grand merci à tous pour toute l'aide. En fait, pour faire un commentaire sur les marchés des changes en général, il est plus facile de les vendre à découvert que les actions ou les obligations car il n’est pas nécessaire d’emprunter une action avant de vendre à découvert. On retourne simplement les monnaies dénominateur et numérateur. Ainsi, par exemple, vendre l'EURUSD et USDEUR sont des opérations tout à fait équivalentes du point de vue du département des risques, mais ce sont bien sûr des positions opposées. C'est pourquoi FX est un tel terrain de jeu pour les traders quant car ils n'ont pas à s'inquiéter des frictions directionnelles qui sont beaucoup plus importantes en actions

— Thomas Browne

8

Comme mentionné par whuber, si vous êtes uniquement intéressé par les contraintes d'égalité, vous pouvez simplement utiliser la fonction standard lm () en réécrivant votre modèle:

\begin{array}{rcl} Y & = & α + β_{1} X_{1} + β_{2} X_{2} + β_{3} X_{3} + ϵ \\ = & α + β_{1} X_{1} + β_{2} X_{2} + (1 - β_{1} - β_{2}) X_{3} + ϵ \\ = & α + β_{1} (X_{1} - X_{3}) + β_{2} (X_{2} - X_{3}) + X_{3} + ϵ \end{array}

$\begin{eqnarray} Y&=&\alpha+\beta_1 X_1+\beta_2 X_2+\beta_3 X_3+\epsilon\\ &=& \alpha+\beta_1 X_1+\beta_2 X_2+(1-\beta_1-\beta_2) X_3+\epsilon\\ &=& \alpha + \beta_1( X_1-X_3) +\beta_2 (X_2-X_3)+ X_3+\epsilon \end{eqnarray}$

Mais cela ne garantit pas que vos contraintes d'inégalité sont satisfaites! Cependant, dans ce cas, vous obtenez exactement le même résultat qu'avec l'exemple de programmation quadratique ci-dessus (en plaçant le X3 à gauche):

X <- matrix(runif(300), ncol=3)
Y <- X %*% c(0.2,0.3,0.5) + rnorm(100, sd=0.2)
X1 <- X[,1]; X2 <-X[,2]; X3 <- X[,3]
lm(Y-X3~-1+I(X1-X3)+I(X2-X3))

— Matifou
source

Dans le cas susmentionné de Matifou, comment éviter que le troisième coefficient soit négatif? Par exemple, si les coefficients optimaux pour et nous aurions cela ce qui implique ici que notre troisième coefficient est négatif et ne tient donc pas sur la base de notre régression souhaitée.

β_{1} = 0.75

$\beta_1=0.75$

β_{2} = 0.5

$\beta_2=0.5$

(1 - β_{1} - β_{2}) = - 0.25

$(1-\beta_1-\beta_2)=-0.25$

— AS

1

Merci @AS pour l'avoir signalé. En effet, cette solution ne fonctionne que pour les contraintes d'égalité, pas pour celles d'inégalité. J'ai édité le texte en conséquence.

— Matifou

1

Si je comprends bien votre modèle, vous cherchez à trouver tel que

\bar{\bar{x}} \cdot \bar{b} = \bar{y}

$\bar{\bar{x}} \cdot \bar{b} = \bar{y}$

\sum [\begin{matrix} \bar{b} \end{matrix}] = 1

$\sum \left [ \begin{matrix} \bar{b} \end{matrix} \right ] =1$

J'ai trouvé que le moyen le plus simple de traiter ce type de problèmes consiste à utiliser les propriétés associatives des matrices pour traiter en fonction d'autres variables. $\bar{b}$

Par exemple, est une fonction de via le bloc de transformation . Dans votre cas, ci-dessous est . ici , nous pouvons séparer nos nowns et nknowns. $\bar{b}$ $\bar{c}$ $\bar{\bar{T_c}}$ $r$ $1$

\bar{b} = [\begin{matrix} k_{0} \\ k_{1} \\ k_{2} \end{matrix}] = \bar{\bar{T_{c}}} \cdot \bar{c} = [\begin{matrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ - 1 & - 1 & 1 \end{matrix}] \cdot [\begin{matrix} k_{0} \\ k_{1} \\ r \end{matrix}]

$\bar{b} = \left [ \begin{matrix} k_0 \\ k_1 \\ k_2 \end{matrix} \right ] = \bar{\bar{T_c}} \cdot \bar{c} = \left [ \begin{matrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ -1 & -1 & 1 \end{matrix} \right ] \cdot \left[ \begin{matrix} k_0 \\ k_1 \\ r \end{matrix} \right ]$

k

$k$

u

$u$

\bar{c} = [\begin{matrix} k_{0} \\ k_{1} \\ r \end{matrix}] = \bar{\bar{S_{u}}} \cdot \bar{c_{u}} + \bar{\bar{S_{k}}} \cdot \bar{c_{k}} = [\begin{matrix} 1 & 0 \\ 0 & 1 \\ 0 & 0 \end{matrix}] \cdot [\begin{matrix} k_{0} \\ k_{1} \end{matrix}] + [\begin{matrix} 0 \\ 0 \\ 1 \end{matrix}] \cdot r

$\bar{c} = \left[ \begin{matrix} k_0 \\ k_1 \\ r \end{matrix} \right ] = \bar{\bar{S_u}} \cdot \bar{c_u} + \bar{\bar{S_k}} \cdot \bar{c_k} = \left[ \begin{matrix} 1 & 0 \\ 0 & 1 \\ 0 & 0 \end{matrix} \right] \cdot \left [ \begin{matrix} k_0 \\ k_1 \end{matrix} \right ] + \left [ \begin{matrix} 0 \\ 0 \\ 1 \end{matrix} \right ] \cdot r$ Alors que je pouvais combiner les différentes transformations / blocs de séparation, cela devient lourd avec des modèles plus complexes. Ces blocs permettent de séparer les connus et les inconnus.

\bar{\bar{x}} \cdot \bar{\bar{T_{c}}} \cdot (\bar{\bar{S_{u}}} \cdot \bar{c_{u}} + \bar{\bar{S_{k}}} \cdot \bar{c_{k}}) = \bar{y} \bar{\bar{v}} = \bar{\bar{x}} \cdot \bar{\bar{T_{c}}} \cdot \bar{\bar{S_{u}}} \bar{w} = \bar{y} - \bar{\bar{x}} \cdot \bar{\bar{T_{c}}} \cdot \bar{\bar{S_{k}}} \cdot \bar{c_{k}}

$\bar{\bar{x}} \cdot \bar{\bar{T_c}} \cdot \left ( \bar{\bar{S_u}} \cdot \bar{c_u} + \bar{\bar{S_k}} \cdot \bar{c_k} \right ) = \bar{y} \\ \bar{\bar{v}} = \bar{\bar{x}} \cdot \bar{\bar{T_c}} \cdot \bar{\bar{S_u}} \\ \bar{w} = \bar{y} - \bar{\bar{x}} \cdot \bar{\bar{T_c}} \cdot \bar{\bar{S_k}} \cdot \bar{c_k}$ Enfin, le problème se présente sous une forme familière.

\bar{\bar{v}} \cdot \bar{c_{u}} = \bar{w}

$\bar{\bar{v}} \cdot \bar{c_u} = \bar{w}$

— Augi Lynch
source

1

Vieille question mais comme je suis confronté au même problème, j'ai pensé poster mon 2p ...

Utilisez la programmation quadratique comme suggéré par @Elvis mais en utilisant sqlincon à partir du paquet pracma . Je pense que l’avantage quadrpog::solve.QPest une interface utilisateur plus simple pour spécifier les contraintes. (En fait, lsqlinconc'est un wrapper autour solve.QP).

Exemple:

library(pracma)

set.seed(1234)

# Test data
X <- matrix(runif(300), ncol=3)
Y <- X %*% c(0.2, 0.3, 0.5) + rnorm(100, sd=0.2)

# Equality constraint: We want the sum of the coefficients to be 1.
# I.e. Aeq x == beq  
Aeq <- matrix(rep(1, ncol(X)), nrow= 1)
beq <- c(1)

# Lower and upper bounds of the parameters, i.e [0, 1]
lb <- rep(0, ncol(X))
ub <- rep(1, ncol(X))

# And solve:
lsqlincon(X, Y, Aeq= Aeq, beq= beq, lb= lb, ub= ub)

[1] 0.1583139 0.3304708 0.5112153

Mêmes résultats que ceux d'Elvis:

library(quadprog)
Rinv <- solve(chol(t(X) %*% X));
C <- cbind(rep(1,3), diag(3))
b <- c(1,rep(0,3))
d <- t(Y) %*% X  
solve.QP(Dmat = Rinv, factorized = TRUE, dvec = d, Amat = C, bvec = b, meq = 1)$solution

EDIT Pour essayer de répondre au commentaire de gung, voici une explication. sqlincon émule le lsqlin de matlab qui a une belle page d’aide. Voici les bits pertinents avec quelques modifications (mineures):

XMatrice multiplicateur, spécifiée comme une matrice de doubles. C représente le multiplicateur de la solution x dans l'expression C * x - Y. C est M-by-N, où M est le nombre d'équations et N le nombre d'éléments de x.

YVecteur constant, spécifié en tant que vecteur de doubles. Y représente le terme constant additif dans l'expression C * x - Y. Y est M par 1, où M est le nombre d'équations.

Aeq: Matrice de contrainte d'égalité linéaire, spécifiée comme une matrice de doubles. Aeq représente les coefficients linéaires dans les contraintes Aeq * x = beq. Aeq a la taille Meq-by-N, où Meq est le nombre de contraintes et N le nombre d'éléments de x

beqVecteur de contrainte d'égalité linéaire, spécifié en tant que vecteur de doubles. beq représente le vecteur constant dans les contraintes Aeq * x = beq. beq a la longueur Meq, où Aeq est Meq-by-N.

lbLimites inférieures, spécifiées en tant que vecteur de doubles. lb représente la limite inférieure élément par élément dans lb ≤ x ≤ ub.

ubLimites supérieures, spécifiées en tant que vecteur de doubles. ub représente la limite supérieure par élément dans lb ≤ x ≤ ub.

— dariober
source