[선형대수학] Eigen Vector / Value

선형대수학의 핵심 중 하나인 eigen vector와 eigen value에 대한 포스팅이다. 

 

 

Why eigen value?

세상에 쓸모 없이 만들어 진 것은 없다.

eigen vector와 eigen value는 왜 필요할까?

가장 단순한 이유는, 행렬의 거듭제곱을 쉽게 계산하기 위해서이다. 

 

 

어떤 행렬 $A$의 거듭제곱을 계산한다고 했을 때, 행렬의 size가 크면 클 수록 연산량은 많아지게 된다. 

그러면 어떻게 해야 연산량을 줄일 수 있을까? 

사람들은 diagonal matrix는 제곱의 계산이 간편하다는 사실을 이용해서 $A$의 거듭제곱을 쉽게 하려는 시도를 한다.

 

 

그런데 $A$행렬이 diagonal matrix가 아니라면 어떻게 diagonal matrix의 특징을 이용한다는 거지? 

물론 임의의 $A$행렬을 diagonal matrix로 바꿀 수는 없다. 

 

하지만 이 행렬을 $A = P D P'$ 꼴로 분해할 수 있다면 이야기가 달라진다. 

(이 때 $D$는 Diagonal matrix이고, $P'$은 $P$의 Inverse matrix 이다.)

 

$A$가 위와 같이 나눠지게 된다면 $A^2, A^3, ... , A^n$은 쉽게 계산될 수 있다. 

 

$A = P D P'$

$A^2 = P D P' P D P' = P D^2 P'$

$A^3 = P D P' P D P' P D P' = P D^3 P'$

$.$

$.$

$A^n = P D P' P D P ... P D P' = P D^n P'$

 

 

Diagonal matrix의 거듭제곱은 연산량이 작기 때문에 $A$가 이렇게 분해된다면

연산량에 있어서 엄청난 이득을 얻을 수 있다. 

 

이 때 필요한 것이 Eigen vector와 Eigen value 이다. 

 

 

---

 

[Eigen value, Eigen vector 정의]

n x n Square matrix $A$에 대해서

$Ax = \lambda x$ ------ (1)

 

(1)의 식이 Non-trivial solution을 가질 때, 

 

Scalar $(\lambda)$를 $A$의 eigenvalue 라고 하고,

Vector $x$를 $\lambda$에 해당하는 eigenvector 라고 한다. 

 

(1)을 변형하면 

$(A - \lambda I) x = 0$ ------ (2) 

 

(2)의 식이 되고, 이 식이 non-trivial solution을 가지려면 

$(A - \lambda I)$의 inverse matrix가 존재하지 않아야 하고,

즉, $Det(A - \lambda I ) = 0$이어야 한다.

 

하나의 $\lambda$ 값에 대한 (2)의 식을 만족하는 모든 $x$들의 집합은 $R^n$의 Subspace이고, 

이 subspace를 eigenspace 라고 정의한다. 

 

이 eigenspace에는 모든 eigenvector들이 들어있고 추가로 zero vector도 포함되어 있다. 

( * 모든 subspace에는 zero vector를 포함해야 한다. )