고유벡터와 고유값

머신러닝과 딥러닝 · 2019. 12. 23. 14:03

고유벡터의 정의

 

임의의 행렬 $ n \times n $ 행렬 $A$에 대하여, 0이 아닌 솔루션 벡터 $ \hat {x}$가 존재한다면

$ \lambda $는 행렬 $ A$의 고유값이라고 할 수 있다.

솔루션 벡터 $ \hat {x} $는 고유값  $\lambda $에 대응하는 고유벡터이다.

 

$ A \hat {x} = \lambda \hat {x} $

 

위의 정의는 다음과 같이 바꿀 수 있다.

 

$ (A-\lambda I) \hat {x} = 0 $ ( $I$는 단위행렬 (identity matrix)이다.)

 

이 식이 성립하기 위한 조건은 두가지이다.

괄호 안이 0이 되거나,

$ \hat {x} = 0 $인 경우이다.

 

만약, 괄호안에 있는 식이 역행렬이 존재하면 $ \hat {x} =0 $ 이라는 trivial solution을 얻게된다.

$ (A-\lambda I)^{T}(A-\lambda I) = I$ 이므로,

$ \hat {x} = 0 $

 

따라서, 괄호안에 있는 식이 역행렬이 존재하지 않아야 nontrivial solution을 가질 수 있다.

 

즉, 

행렬 $A$가 정방행렬이고, $AB=BA=I$를 만족하는 같은 크기의 행렬 $B$가 존재한다면,

행렬 $A$는 가역(invertible) 또는 정칙(nonsingular)이라고 하며, 행렬 $B$를 행렬 $A$의 역행렬(inverse matrix)라고 하는데, 이 행렬 $B$가 존재하지 않으면 행렬 $A$는 특이행렬(singular matrix)라고 한다.

 

역행렬을 구하는 방법은 행렬식(determinant)를 사용하는 방법이 있음.

 

$ A = \begin{bmatrix} a&b \\ c&d \\ \end{bmatrix}  $가 가역일 필요충분 조건은 $ad-bc \neq 0 $ 이다.

 

따라서, 역행렬을 가지지 않기 위한 필요 충분 조건은

 

$ det(A-\lambda I) = 0 $ 이다.

 

 

고유값과 고유벡터 계산 예시

 

$ A = \begin{bmatrix} 2&1 \\ 1&2 \\ \end{bmatrix}  $

 

이 행렬에 대해 고유값과 고유벡터를 구해보자.

정의에 따라, 고유 값 $ \lambda $와 고유벡터 $ \hat {x} $는 다음과 같은 식을 만족.

 

$ A\hat{x}= \lambda \hat{x} $

$ (A-\lambda I) \hat {x} = 0 $

 

$ \hat {x} $가 nontrivial solution을 갖기 위해서는 다음을 만족해야한다.

$ det(A-\lambda I) = 0 $

 

$ det(A-\lambda I) = det(\begin{bmatrix} 2-\lambda &1 \\ 1&2-\lambda \\ \end{bmatrix} )=0$

 

$ det(A-\lambda I)= (2-\lambda)^{2}-1 = (4-4\lambda + \lambda^{2}) -1 = \lambda^{2}-4\lambda+3 = 0$

 

그러므로, $ \lambda_{1}=1, \,\, \lambda_{2}=3$이다. 이것이 고유값이다.

 

선형변환 $A$의 고유값은 1과 3이고,

이것의 의미는 선형변환을 했을때

크기는 변하고 방향이 변하지 않는 벡터가 있다고 할 때, 

그 벡터의 크기는 1배, 3배가 된다는 의미이다.

 

$ A\hat{x}=\lambda_{1} \hat{x} $

 

$ \begin{bmatrix} 2 & 1 \\ 1 & 2 \end{bmatrix} \times \left[ \begin{array}{c} x_1 \\ x_2 \end{array} \right] =1 \times \left[ \begin{array}{c} x_1 \\ x_2 \end{array} \right] $

 

를 만족해야 하므로

 

$ \lambda_{1}=1$인 경우의 고유벡터는 

 

$ \left[ \begin{array}{c} x_1 \\ x_2 \end{array} \right] = \left[ \begin{array}{c} 1 \\ -1 \end{array} \right] $

 

$ \lambda_{1}=3$인 경우의 고유벡터는

 

$ \left[ \begin{array}{c} x_1 \\ x_2 \end{array} \right] = \left[ \begin{array}{c} 1 \\ 1 \end{array} \right] $

 

 

 

 

https://blog.naver.com/martinok1103/221493289111

 

제 9강 : 역행렬(inverse matrix)

역행렬은 실수에서 a-1 또는 1/a와 비슷한 역할을 합니다.​행렬 A가 정방행렬이고, AB=BA...

blog.naver.com