**********짧은 수정은 문장 내에 [**] 의 형태로 하였음. 긴 답은 위와 아래에 ********로 구분한 문단으로 응답.
--------------- 질문 내용 -----------------------------------
>MA(q)모형에서 Xt는 관찰불가능한 epsilon 으로 표현되어 있다.
>따라서 Xt의 추정[*** theta의 추정***]은 그 상태에서는 불가능하다
>그래서 다음과 같은 과정이 필요하다
>
>invertibility condition이 만족하는 경우에 epsilon_t 는 theta(L)^-1*Xt 와 같이
>Xt의 함수로 나타낼 수 있다(intercept 생략)
>
>즉, theta의 initial value값이 [***그리고 epsilon의 초기치가(흔히 영으로 가정)***]알려져있다는 가정하에 epsilon을 Xt로 계산해낼 수 있다.
>이러한 과정을 반복하여 epsilon_t-1, epsilon_t-2,.... 의 data를 만들 수 있다.
>
>이제 위에서 만들어진 data set을 가지고 원 모형 Xt = theta(L)*epsilon_t 에서의 계수값들을
>추정할 수 있다.(regression을 통해서??)
*************************************************************
Regression을 통해서??
MA모형은 nonlinear model 이기에 반복추정을 해야함. 흔히 Gauss-Newton 방식이 사용됨.
왜 nonlinear 인가? MA(1)을 가지고 따져보자. (오차를 계수로 편미분한 결과에 계수가 남게되면 nonlinear, 아니면 linear.) 오차를 다음과 같이 표현하고 theta의 함수로 간주하고 진행.
epsilon_t = X_t - theta*epsilon_{t-1}
편미분 결과:
{partial epsilon_t}/{partial theta} = -epsilon_t - theta*({partial epsilon_{t-1}}/{partial theta}) ---------------- (1)
(마지막 항은 epsilon은 꼬리표가 무엇이든 theta의 함수이기 때문에 생겨난 것.)
따라서 MA(1)은 nonlinear model임이 확인 되었음. 반복추정이 필요함도 같이 확인되었음.
Gauss-Newton:
theta^(j) = theta^(j-1) + [Sum (Z_t *Z_t prime)]^-1 Sum(Z_t *epsilon_t ) ------ (2)
단, Z_t = {partial(theta*epsilon_{t-1})} / {partial theta}
= {partial(epsilon_{t-1})} / {partial theta} + theta*({partial epsilon_{t-1}}/{partial theta}) [<--- (1)식 참조]
그리고 이 반복식의 우변의 theta는 물론 모두 theta^(j-1)을 대입한 것.
(2)식을 계산하려면 다음에 관한 숫자들이 필요함을 관찰할 수 있음:
epsilon_t 와 Z_t [ Z_t 는 {partial(epsilon_{t-1})} / {partial theta} 가 있으면 됨.]
<구체적 계산 -- MA(1)의 경우>
(i) epsilon_0 = 0 이라고 두고 theta의 initial value theta^(0) 값을 정함.
(ii) epsilon_t = X_t - theta^(0)*epsilon_{t-1} 를 통해 epsilon 데이터를 t=1 부터 n까지 생성.
그 다음...
epsilon_0 = 0 라고 했으므로 {partial(epsilon_{0})} / {partial theta} = 0.
이것을 초기치로 사용하여 (1)식, 즉 다음 식에 의해 도함수의 데이터 생성:
{partial epsilon_t}/{partial theta} = -epsilon_t - theta*({partial epsilon_{t-1}}/
{partial theta})
이로부터 Z_t 데이터를 역시 t=1 부터 n까지 생성.
(iii) (2)식을 통해 theta(1)을 얻음. 이 값을 theta(0)과 비교. 충분히 가까우면 stop.
아니면 (i)로 가서 반복.
***************************************************************
>
>그리고 q의 값을 정하기 위해 위에서 구한 theta의 추정값에 대해 유의한지 test한다
>--------
>
>이게 제대로 이해하고 있는 건지 모르겠습니다.
>
>아, 그리고 사실 중간내용부터는 자신이 없는데 교수님께서 수업시간에 적어주신
>
>l theta^hat_(j+1) - theta^hat_j l < 0.00001(임의의수)
>
>이런 식으로 j+1기의 추정값과 j기의 추정값의 차이가 일정이하가 될 경우 유의하지 않다고
>판정하고 j를 q로 정한다 [*** 이 것은 위 설명에서 보듯 q를 정하는 것이 아니고 반복추정을
계속할 것인지 아닌지를 판단하는 일.***]
>
>이게 위의 과정에서 어떻게 쓰이는지도 잘 모르겠습니다.
>마지막에 theta의 추정에 쓰이는 거 같긴 한데 제가 적은 거랑 내용이 좀 다른 거 같기도 하고
>
>한 학기동안 열심히 강의해주셔서 감사하게 생각합니다.
>보강은 못 갈 거 같아 미리 인사드립니다;; [*** 안오면 후회할 걸? ***]
>
>어.. 그리고 저번 수업시간에 zeratul에 대해서 말씀하신 게 맞나요?
>zeratul은 스타크래프트에서 프로토스의 영웅 입니다 ^^ [***게시판 아래쪽에 zeratul 이 남긴 글이 있기에 한 말. ***]
--------------- 질문 내용 -----------------------------------
>MA(q)모형에서 Xt는 관찰불가능한 epsilon 으로 표현되어 있다.
>따라서 Xt의 추정[*** theta의 추정***]은 그 상태에서는 불가능하다
>그래서 다음과 같은 과정이 필요하다
>
>invertibility condition이 만족하는 경우에 epsilon_t 는 theta(L)^-1*Xt 와 같이
>Xt의 함수로 나타낼 수 있다(intercept 생략)
>
>즉, theta의 initial value값이 [***그리고 epsilon의 초기치가(흔히 영으로 가정)***]알려져있다는 가정하에 epsilon을 Xt로 계산해낼 수 있다.
>이러한 과정을 반복하여 epsilon_t-1, epsilon_t-2,.... 의 data를 만들 수 있다.
>
>이제 위에서 만들어진 data set을 가지고 원 모형 Xt = theta(L)*epsilon_t 에서의 계수값들을
>추정할 수 있다.(regression을 통해서??)
*************************************************************
Regression을 통해서??
MA모형은 nonlinear model 이기에 반복추정을 해야함. 흔히 Gauss-Newton 방식이 사용됨.
왜 nonlinear 인가? MA(1)을 가지고 따져보자. (오차를 계수로 편미분한 결과에 계수가 남게되면 nonlinear, 아니면 linear.) 오차를 다음과 같이 표현하고 theta의 함수로 간주하고 진행.
epsilon_t = X_t - theta*epsilon_{t-1}
편미분 결과:
{partial epsilon_t}/{partial theta} = -epsilon_t - theta*({partial epsilon_{t-1}}/{partial theta}) ---------------- (1)
(마지막 항은 epsilon은 꼬리표가 무엇이든 theta의 함수이기 때문에 생겨난 것.)
따라서 MA(1)은 nonlinear model임이 확인 되었음. 반복추정이 필요함도 같이 확인되었음.
Gauss-Newton:
theta^(j) = theta^(j-1) + [Sum (Z_t *Z_t prime)]^-1 Sum(Z_t *epsilon_t ) ------ (2)
단, Z_t = {partial(theta*epsilon_{t-1})} / {partial theta}
= {partial(epsilon_{t-1})} / {partial theta} + theta*({partial epsilon_{t-1}}/{partial theta}) [<--- (1)식 참조]
그리고 이 반복식의 우변의 theta는 물론 모두 theta^(j-1)을 대입한 것.
(2)식을 계산하려면 다음에 관한 숫자들이 필요함을 관찰할 수 있음:
epsilon_t 와 Z_t [ Z_t 는 {partial(epsilon_{t-1})} / {partial theta} 가 있으면 됨.]
<구체적 계산 -- MA(1)의 경우>
(i) epsilon_0 = 0 이라고 두고 theta의 initial value theta^(0) 값을 정함.
(ii) epsilon_t = X_t - theta^(0)*epsilon_{t-1} 를 통해 epsilon 데이터를 t=1 부터 n까지 생성.
그 다음...
epsilon_0 = 0 라고 했으므로 {partial(epsilon_{0})} / {partial theta} = 0.
이것을 초기치로 사용하여 (1)식, 즉 다음 식에 의해 도함수의 데이터 생성:
{partial epsilon_t}/{partial theta} = -epsilon_t - theta*({partial epsilon_{t-1}}/
{partial theta})
이로부터 Z_t 데이터를 역시 t=1 부터 n까지 생성.
(iii) (2)식을 통해 theta(1)을 얻음. 이 값을 theta(0)과 비교. 충분히 가까우면 stop.
아니면 (i)로 가서 반복.
***************************************************************
>
>그리고 q의 값을 정하기 위해 위에서 구한 theta의 추정값에 대해 유의한지 test한다
>--------
>
>이게 제대로 이해하고 있는 건지 모르겠습니다.
>
>아, 그리고 사실 중간내용부터는 자신이 없는데 교수님께서 수업시간에 적어주신
>
>l theta^hat_(j+1) - theta^hat_j l < 0.00001(임의의수)
>
>이런 식으로 j+1기의 추정값과 j기의 추정값의 차이가 일정이하가 될 경우 유의하지 않다고
>판정하고 j를 q로 정한다 [*** 이 것은 위 설명에서 보듯 q를 정하는 것이 아니고 반복추정을
계속할 것인지 아닌지를 판단하는 일.***]
>
>이게 위의 과정에서 어떻게 쓰이는지도 잘 모르겠습니다.
>마지막에 theta의 추정에 쓰이는 거 같긴 한데 제가 적은 거랑 내용이 좀 다른 거 같기도 하고
>
>한 학기동안 열심히 강의해주셔서 감사하게 생각합니다.
>보강은 못 갈 거 같아 미리 인사드립니다;; [*** 안오면 후회할 걸? ***]
>
>어.. 그리고 저번 수업시간에 zeratul에 대해서 말씀하신 게 맞나요?
>zeratul은 스타크래프트에서 프로토스의 영웅 입니다 ^^ [***게시판 아래쪽에 zeratul 이 남긴 글이 있기에 한 말. ***]
