고유벡터와 고유값 (Eigenvectors and eigenvalues)

출처: 부스트코스-인공지능을 위한 선형대수

수강일시:2021.01.07

 

고유값 분해는 이미 널리 알려지고 다양한 분야에서 쓰이고 있는

주성분분석(PCA: Principal Component Analysis) 등의 주요 머신러닝 알고리즘에서 중요하게 쓰이는 개념입니다. 

이번 강의에서는 고유값 분해를 배우기 위한 첫 단계인 고유벡터와 고유값의 개념에 대해 배워보도록 하겠습니다.

 

정의

즉 A라는 정사각행렬에 어떤 벡터x를 곱했을때 결과값이 x의 정수배 람다가 되도록하는 x를 고유벡터 람다를 고유값이라고 한다. 

 

고유벡터 고유값을 이용한다면 행렬의 곱연산을 획기적으로 줄여준다

큰 데이터를 다루는곳 (ml, computer vision등) 에서 행렬연산은 key operation이 되는 경우가 많은데 이런 행렬의 곱연산을 줄임으로서 연산시간을 줄일 수 있다.

 

0벡터가 아닌 벡터x가 위 식을 만족시켜야 한다.

 

왼쪽 A- lambda I 가 linearly dependent할 때 nontrivial한 해가 존재한다.

A는 linearly independent하다. 그러므로 Ax=0의 해는 x=0일때만 존재한다.

우리는 x가 nonzero solution일때를 계산하고 싶으므로 x는 고유벡터가 될 수 없다.

A- lambda I 의 결과가 0이아닌 해를 갖게하기 위해

linearly independent한 행렬 A에 어떠한 대각행렬(lambda I)를 뺀것이 linearly dependent하도록 만들어야한다.