'

&

$

%

Markov Switching Models

Profa. Airlane Alencar

Depto de Estatıstica - IME-USP

www.ime.usp.br/∼lane

Ref: Kim e Nelson (1999) e Hamilton (1990)

1

'

&

$

%

Objetivo

Mudanca nos parametros de um modelo de regressao definindodiferentes regimes.

• Datas conhecidas - Teste de Chow (1960);

• Quandt (1972): Regimes independentes;

• Goldfeld e Quandt (1973) - Regimes Markovianos;

• Hamilton (1989) - Mudanca Markoviana no modelo AR(p).

2

'

&

$

%

Modelo com mudanca de regime

yt = xtβSt + et, (1)

em que:

1. xt e um vetor de variaveis exogenas 1× k;

2. St define o regime;

3. et iid ∼ N(0, σ2St

).

Consideremos dois regimes St = 0, 1.

1. βSt= β0(1− St) + β1St;

2. σ2St

= σ20(1− St) + σ2

1St.

A funcao log-verossimilhanca e

3

'

&

$

%

lnL =T∑

t=1

lnf(yt|yt−1)

=T∑

t=1

ln

[1∑

St=0

f(yt|St, yt−1)P (St|yt−1)

]

4

'

&

$

%

Regimes independentes

Probabilidades de cada regime dependentes de Z usando a funcaode ligacao logıstica:

P (St = 1|yt−1) = pt =exp(γ0 + Ztγ1)

1 + exp(γ0 + Ztγ1)

P (St = 0|yt−1) = 1− pt =1

1 + exp(γ0 + Ztγ1)

ou usando alguma outra funcao de ligacao, como por exemplo aprobit, que facilita a obtencao da posteriori usando inferenciabayesiana.

5

'

&

$

%

Transicao Markoviana

P (St = 1|St−1 = 1, yt−1) = pt =exp(γ0 + Ztγ1)

1 + exp(γ0 + Ztγ1)

P (St = 1|St−1 = 0, yt−1) = qt =exp(δ0 + Ztδ1)

1 + exp(δ0 + Ztδ1)

6

'

&

$

%

Filtro de Probabilidades

Passo 1

P (St = j|yt−1) =1∑

i=0

P (St = j|St−1 = i)P (St−1 = i|yt−1)

Passo 2 - Atualizacao

P (St = j|yt) =f(St = j, yt|yt−1)

f(yt|yt−1)=

=f(yt|St = j, yt−1)P (St = j|yt−1)∑1

j=0 f(yt|St = j, yt−1)P (St = j|yt−1)

Para iniciar o filtro tem que inicializar P (S0|y0), por exemplousando a probabilidade invariante no caso de cadeia estacionaria.

7

'

&

$

%

Exemplo - AR(1)

yt − µSt = φ(yt−1 − µSt−1) + et, t = 1, . . . , T

et ∼ N(0, σ2St

)

St = 1, . . . ,M.

Agora a densidade de yt depende de St e St−1

f(yt|yt−1, St, St−1) =1√

2πσ2St

exp

[−

(yt − µSt − φ(yt−1 − µSt−1))2

2σ2St

]

8

'

&

$

%

e

lnL =T∑

t=1

lnf(yt|yt−1)

=T∑

t=1

ln

M∑St=1

M∑St−1=1

f(yt|St, St−1, yt−1)P (St, St−1|yt−1)

9

'

&

$

%

Filtro de Probabilidades

Passo 1

P (St = j, St−1 = i|yt−1) = P (St = j|St−1 = i)P (St−1 = i|yt−1)

Passo 2 - Atualizacao

P (St = j, St−1 = i|yt) =

= f(St=j,St−1=i,yt|yt−1)f(yt|yt−1)

=

= f(yt|St=j,St−1=i,yt−1)P (St=j,St−1=i|yt−1)∑Mi=1

∑Mj=1 f(yt|St=j,St−1=i,yt−1)P (St=j,St−1=i|yt−1)

Para iniciar o filtro tem que inicializar P (S0|y0).

10

'

&

$

%

Suavizacao e EM

A variancia assintotica dos estimadores de maxima verossimilhancapodem ser obtidos utilizando-se o inverso da matriz informacao deFisher (estimada usando a matriz hessiana no ponto de maximo).

O algoritmo de suavizacao proposto por Kim permite obter umaaproximacao para P (St = j|yT ).

Pode ser utilizado o algoritmo EM para realizar a estimacao,escrevendo-se a log-verossimilhanca completa, ou seja, usando adensidade das observacoes e as variaveis nao observadas que nessecaso sao os regimes.

11

'

&

$

%

Hamilton - GDP

Hamilton (1989) modelou o crescimento do PIB real como ummodelo AR(4) com dois regimes para a media. A seguir, yt e o logdo PIB real.

12

'

&

$

%

∆ Log do PIB real

0.01

0.02

0.03

0.04

‐0.03

‐0.02

‐0.01

0.00

mar/52

mar/54

mar/56

mar/58

mar/60

mar/62

mar/64

mar/66

mar/68

mar/70

mar/72

mar/74

mar/76

mar/78

mar/80

mar/82

mar/84

mar/86

mar/88

mar/90

mar/92

mar/94

13

'

&

$

%

Modelo

(∆yt − µSt) = φ1(∆yt−1 − µSt−1) + . . .+ φ4(∆yt−4 − µSt−4) + et

et ∼ N(0, σ2)

µSt= µ0(1− St) + µ1St

P (St = 1|St−1 = 1) = p, P (St = 0|St−1 = 0) = q

Modelo estacionario, sujeito a φ(B) = (1− φ1B − . . .− φL4) = 0com raızes fora do cırculo unitario.

E possıvel distinguir dois regimes: recessao e expansao (medianegativa e positiva para o crescimento do PIB real)

14

'

&

$

%15

'

&

$

%16

'

&

$

%

Quando Kim e Nelson incluıram os dados de 1985 a 1995, o modelonao consegue detectar dois regimes. Por isso, foi proposto o modelopara as medias:

µSt= (µ0 + µ∗0St)(1−Dt) + (µ1 + µ∗1Dt)St,

com Dt igual a 1 no perıodo 1983:I-1995:III e zero no perıodoanterior.

17

'

&

$

%18

'

&

$

%

Modelo Threshold Auto-regressivo

TAR

yt =

µ1 + φ1yt−1 + u1t, se st−k < r

µ2 + φ2yt−1 + u2t, se st−k ≥ r

SETAR = Self-exciting TAR

yt =

µ1 + φ1yt−1 + u1t, se yt−k < r

µ2 + φ2yt−1 + u2t, se yt−k ≥ r

Tem que estimar µ1, µ2, φ1, φ2, k, r e as variancias de uit.

19

'

&

$

%

• Estimacao: maxima verossinilhanca e r, k estimados por gridsearch.

• Pode ter mais que dois regimes e diferentes variaveis paradefinir os regimes.

• Pode ser usado algum criterio tipo AIC para escolher o melhormodelo.

20

'

&

$

%

Dados simulados de

yt =

0, 2yt−1 + 0, 5et, se yt−1 > 0, 5

0, 8yt−1 + et, se yt−1 ≤ 0, 5

21

'

&

$

%

y = 0.479x ‐ 0.161R² = 0.191y = 0.787x ‐ 0.088

R² = 0.489

1

0

1

2

3

‐6 ‐5 ‐4 ‐3 ‐2 ‐1 0 1 2 3

yt

yt‐1

‐6

‐5

‐4

‐3

‐2

‐1

regime 1

regime 2

22

'

&

$

%

Valores verdadeiros e estimativas obtidas pelo metodo de MaximaVerossimilhanca

parametros verdadeiro estimativa

φ1 0.20 0.35

φq 0.80 0.82

σ21 0.50 0.51

σ22 1.00 1.01

r 0.50 0.52

23

'

&

$

%

0 5

0.6

0.7

0.8

0.9

1.0

‐1

0

1

2

3

1 9 17 25 33 41 49 57 65 73 81 89 97 105

113

121

129

137

145

153

161

169

177

185

193

0.0

0.1

0.2

0.3

0.4

0.5

‐6

‐5

‐4

‐3

‐2

reg1 série

24

'

&

$

%

Referencias

[1] Kim, C. J. e Nelson, C. R. (1999). State-space models withregime switching. MIT Press.

[2] Hamilton, J. D. (1994). Time series analysis. Princeton, N.J.:Princeton University Press.

[3] Tong, H. (1990). Non-Linear Time Series: A DynamicalSystem Approach. New York: Oxford University Press.

25