Vector autoregressive (VAR) models for time series analysis of high-dimensional data tend to suffer from overparametrisation as the number of parameters in a VAR model grows quadratically with the number of included predictors. In these cases, lower-dimensional structural assumptions are commonly imposed through factor models or regularisation. Factor models reduce the model dimension by projecting the observations onto a common lower-dimensional subspace, decomposing the variables into common and idiosyncratic terms, and might be preferred when predictors are highly collinear. Regularisation reduces overfitting by penalising certain features of the model estimates and might be preferred when, for example, only a few predictors are assumed important. We propose a regularised factor model where factors are constructed by projection onto a common subspace and where the transition matrices in a time series model with the resulting factors are estimated with regularisation. By the subspace estimation we hope to uncover underlying latent factors that explain the predictor dynamics and the additional penalisation is used to encourage additional sparsity and to impose a priori structural knowledge into the estimate. We investigate unsupervised and supervised subspace extraction and extend earlier results on dynamic subspace extraction. Additionally, we investigate element-wise regularisation by the ridge and lasso penalties and two extensions of the lasso penalty that encourage structural sparsity. The performance of the model is tested by forecasting log returns of exchange rates. / Vektor autoregressiva (VAR) modeller för tidsserieanalys av högdimensionell data tenderar att drabbas av överparametrisering eftersom antalet parametrar i modellerna växer kvadratiskt med antalet inkluderade prediktorer. I dessa fall används ofta lägredimensionella strukturella antaganden genom faktormodeller eller regularisering. Faktormodeller reducerar modellens dimension genom att projicera observationerna på ett lägredimensionellt underrum av gemensamma faktorer och kan föredras om prediktorerna är kollineära. Regularisering minskar överanpassning genom att bestraffa vissa egenskaper hos modellens estimerade parametrar och kan föredras när exempelvis endast ett mindre antal prediktorer antas betydande. Vi föreslår en regulariserad faktormodell där prediktorerna projiceras på ett gemensamt underrum för att skapa faktorer och där övergångsmatriserna i en tidsseriemodell med de resulterande faktorerna estimeras med en bestraffande term. Den lägredimensionella projiceringen används för att hitta latenta faktorer som beskriver dynamiken i prediktorerna och den ytterligare regulariseringen används för att premiera gleshet och a priori kunskap om modellens struktur. Både övervakade och oövervakade metoder undersöks för att estimera det gemensamma underrummet och vi generaliserar tidigare resultat om dynamisk estimering av underrum. Dessutom undersöks elementvis regularisering genom bestraffningstermerna ridge och lasso samt två varianter av lasso som premierar strukturell gleshet. Modellens prestanda testas genom att prediktera logaritmerade valutakursförändringar.
| Identifer | oai:union.ndltd.org:UPSALLA1/oai:DiVA.org:kth-193004 |
| Date | January 2016 |
| Creators | Welander, Jesper |
| Publisher | KTH, Matematisk statistik |
| Source Sets | DiVA Archive at Upsalla University |
| Language | English |
| Detected Language | Swedish |
| Type | Student thesis, info:eu-repo/semantics/bachelorThesis, text |
| Format | application/pdf |
| Rights | info:eu-repo/semantics/openAccess |
| Relation | TRITA-MAT-E ; 2016:63 |
Page generated in 0.2326 seconds