대각화(1)

## 자기 회귀 모델(AR)

자기회귀모델(AR)은 시계열 분석에 많이 쓰이는 모델이다. 이러한 식은 보통 다음과 같은 식처럼 이뤄진다. 예를 들어 실제 숫자를 대입해서 해보자

$$\xi (t)=-0.5\xi (t-1)+0.34\xi (t-2)+0.08\xi (t-3)+2u(t)$$

$$init.\xi (0)=0.78,\xi (-1)=0.8,\xi (-2)=1.5$$

이 때 t는 이산적인 시간 즉, 하루전 이틀전 의 시간으로 나타낸다.

이번 포스팅에서는 이런 AR 형태를 가진 모델이 안정성을 갖는지 아니면 $\mathrm{\infty }$ 로 발산하는 지를 알아본다.

여기서 안정성을 갖는다는 예시는 다음의 식과 같다.

$$\xi (t)=0.5\xi (t-1)$$

로 $\underset{t\to \mathrm{\infty }}{lim}\xi (t)$ 일 때 0이 되므로 0으로 수렴하는 식이 된다. 이를 안정성을 갖는다라고 한다.

반대로 발산하는 경우는 $\xi (t)=2\xi (t-1)$ 처럼 점점 커지는 형태로 $\mathrm{\infty }$로 발산하는 형태를 갖는다.

 

## 1차원인 경우

이런 안정성과 불안정성을 체크하기 전에 간단한 1차원을 통해서 먼저 알아본다.

예를 들어 $x(t)=7x(t-1)$ 이라는 식이 있다하자. 이를 한 번 쭉 풀어써보자

$$x(t)=7x(t-1)=7\cdot 7x(t-2)=7\cdot 7\cdot 7x(t-3)=...7^{t}x(0)$$

이런식으로 진행이 된다. 시계열적으로 해석하면 첫번째는 하루 전에 대한 값을 이용한 정리, 두번째는 이틀 전에 대한 값을 이용한 정리, 마지막은 t일 전에 대한 값을 이용한 정리로 된다.

따라서 이런 식으로 $x(t)=ax(t-1)$로 정의할 수 있고 a<=1 이면 안정성을 갖고 a >1 이면 불안정성을 갖는다.

 

## 다차원인 경우(대각행렬)

위에서 말한 $x(t)=ax(t-1)$ 에서 a가 단순 scalar가 아닌 diagonal matrix라고 해보자. 

예를 들어 $x(t)=(x_1(t),x_2(t),x_3(t){)}^T$ 라고 하고 식을 세워보자

$$x(t)=\left(\begin{array}{ccc}5& 0& 0\\ 0& -3& 0\\ 0& 0& 0.8\end{array}\right)x(t-1)$$

이를 계산하면

$$\left(\begin{array}{c}{x}_1(t)\\ x_2(t)\\ x_3(t)\end{array}\right)=\left(\begin{array}{c}5x_1(t-1)\\ -3x_2(t-1)\\ 0.8x_3(t-1)\end{array}\right)$$ 

이런 식으로 나타난다.

또한 이를 식으로 나타내면 

$$\begin{array}{r}{x}_1(t)=5^t{x}_1(0)\\ x_2(t)=(-3{)}^t{x}_2(0)\\ x_3(t)={0.8}^t{x}_3(0)\end{array}$$

으로 나타내진다. 아까 1차원일 경우 계산한 것을 참고하면 된다.

이를 행렬로 나타내면 

$$x(t)=\left(\begin{array}{ccc}{5}^t& 0& 0\\ 0& (-3{)}^t& 0\\ 0& 0& {0.5}^t\end{array}\right)x(0)={\left(\begin{array}{ccc}5& 0& 0\\ 0& -3& 0\\ 0& 0& 0.5\end{array}\right)}^{t}x(0)$$

로 나타낼 수 있다.

따라서 대각행렬인 경우는 간단하게 대각값의 곱으로 나타낼 수 있으며 \( Ax = (a_1 x_1 , ... , a_n x_n )^T 로 나타낼 수 있다. 여기서 대각 원소의 절대값이 하나라도 1보다 크게 되면 불안정성(발산) 하게 되고 모두 1보다 작으면 안정성을 가진다.

 

## 대각화 할 수 있는 경우

diag A 형태가 되면 쉽게 풀어낼 수 있다. 따라서 일반적인 A 행렬을 대각행렬로 변환시켜서 풀면 된다. 대부분은 거의 대각행렬로 변환할 수 있지만 변환되지 않는 경우도 있다. 일단 우선적으로 대각행렬로 변환이 가능한 행렬의 경우만 살펴본다. 대각행렬로 변환시키는 방법은 변수변환, 좌표변환 , 거듭제곱 계산 의 방식이 있다.

## 변수변환

구체적인 예를 통해서 변수 변환에 대해 설명한다. 변수 변환은 즉, 임의의 변수를 설정해서 푸는 방법이다.

위의 행렬식을 풀어서 $y_1(t),y_2(t)$ 의 식으로 풀어쓴다. 그리고 이를 이용해서 $x_1(t),x_2(t)$로 변환 시킨다.

이렇게 전개를 하였을 때 다음과 같이 도출이 된다. 여기서 $t\to \mathrm{\infty }$ 일 때 발산한다.

이렇게 식으로 풀었던 것을 행렬로 한 번 풀어본다

위 식 $x(t)=Ax(t-1)$를 y에 대한 식으로 풀면 $y(t)=\mathrm{\Lambda }y(t-1)$ 로 변형이 가능하다.  이 때 $\mathrm{\Lambda }$는 $$\left(\begin{array}{cc}6& 0\\ 0& 4\end{array}\right)$$ 이다. $\mathrm{\Lambda }$는 대각 행렬 이므로 

$$y(t)={\mathrm{\Lambda }}^{t}y(0)={\left(\begin{array}{cc}6& 0\\ 0& 4\end{array}\right)}^t\left(\begin{array}{c}{y}_1(0)\\ y_2(0)\end{array}\right)=\left(\begin{array}{c}{6}^t{y}_1(0)\\ 4^t{y}_2(0)\end{array}\right)$$

간단하게 풀 수 있다.

이렇게 y에 대해서 푼 식을 x에 대한 식으로 변환시켜보자

$$\left(\begin{array}{c}{x}_1(t)\\ x_2(t)\end{array}\right)=\left(\begin{array}{c}\frac{y_1(t)+y_2(t)}{2}\\ \frac{y_1(t)-y_2(t)}{2}\end{array}\right)$$

이를 요약해서 풀어보자. 일단 풀기 전에 y에 대한 식으로 나타내면 $y(t)=Cx(t)$ 가 된다. 이는 위 y에 대한 정의를 참고하면 된다. 그럼 이 때 C는 $$\left(\begin{array}{cc}1& 1\\ 1& -1\end{array}\right)$$ 가 된다.

따라서 이를 이용하여 x(t)를 다시 정의하면 $x(t)=C^{-1}y(t)$가 되고 이를 풀면

$$\left(\begin{array}{c}{x}_1(t)\\ x_2(t)\end{array}\right)=\left(\begin{array}{cc}{6}^t/2& 4^t/2\\ 6^t/2& -4^t/2\end{array}\right)\left(\begin{array}{c}{y}_1(0)\\ y_2(0)\end{array}\right)$$

로 정리된다. 마지막으로 y를 모두 x로 바꿔주면

$$\left(\begin{array}{c}{x}_1(t)\\ x_2(t)\end{array}\right)=\left(\begin{array}{cc}\frac{6^t+4^t}{2}& \frac{6^t-4^t}{2}\\ \frac{6^t-4^t}{2}& \frac{6^t+4^t}{2}\end{array}\right)\left(\begin{array}{c}{x}_1(0)\\ x_2(0)\end{array}\right)$$

이렇게 식이 정리가 된다.

지금까지 했던 내용을 정리하자면

1. 행렬 C를 사용하여 변수 x(t)  를 다른 변수 y(t) = Cx(t) 로 변환한다.
2. x(t) 식으로 주어진 차분방정식을 y(t) 식으로 다시 쓴다.
3. 고쳐 쓴 식은 대각행렬(diag)가 되어서 간단하게 풀린다.
4. y(t)를 원래의 x(t)로 되돌리면 된다.

단, 언급한 matrix C는 일대일 대응이 되는 역행렬이 존재하는 matrix여야한다.

 

이러한 방식을 일반화로 식을 정리한다.

일단 먼저 $x(t)=Py(t)$ 에서 다른변수  y(t)로 변환하는 것을 생각해보자. 이 경우 $x(t)=Py(t)$ 이라는 표현을 y(t)에 대해서 정리하면 $y(t)=P^{-1}x(t)$ 로 변환된다. 이를 쭉 다시 풀어쓰면

$y(t)=P^{-1}x(t)=P^{-1}Ax(t-1)=P^{-1}A(Py(t-1))=(P^{-1}AP)y(t-1)$ 로 되는데 이는 앞서 본 식 $y(t)=\mathrm{\Lambda }y(t-1)$ 에서 $\mathrm{\Lambda }=P^{-1}AP$ 가 된다. 여기서 만약 $\mathrm{\Lambda }$가 diag matrix이면 앞서 언급한 내용과 같이 간단하게 구해진다.

따라서 결국 $P^{-1}AP$를 구하는 것이 핵심이고 이를 대각화 라고 한다.

대각화에 대해 더욱 자세히 알아보는 것은 다음 포스팅에서 한다.