#1 고유값(Eigen value)와 고유 벡터(Eigen vecotr)이 무엇이고 왜 중요한가요?

 

1. 고유값(Eigenvalue)과 고유벡터(Eigenvector)의 개념

 

고유값과 고유벡터는 행렬을 변환할 때 그 방향을 유지하는 벡터와 그 크기 변화 비율을 나타냅니다.

 

(1) 고유값(Eigenvalue, lambda)

• 정사각 행렬 A가 있을 때, 특정 벡터 v에 대해 아래 식을 만족하는 스칼라 값 lambda를 고유값이라고 합니다.

 

$$Av=\lambda v$$

 

즉, 행렬 A가 벡터 v를 변환할 때, 크기만 변하고 방향이 바뀌지 않는 경우가 있습니다.

이때 변환된 벡터의 크기 변화 비율이 바로 고유값 $$\lambda$$입니다.

 

(2) 고유벡터(Eigenvector, v)

• 위 식을 만족하는 0이 아닌 벡터 v를 고유벡터라고 합니다.

• 즉, 행렬이 곱해졌을 때 방향이 변하지 않는 벡터입니다.

 

2. 고유값과 고유벡터가 중요한 이유

 

고유값과 고유벡터는 선형 변환을 이해하는 핵심 개념으로, 다양한 분야에서 응용됩니다.

 

(1) 선형 변환 분석

• 행렬 변환이 특정 방향에서 어떻게 작용하는지를 분석할 수 있음.

• 데이터를 특정 방향(주성분)으로 정렬하는 데 유용.

 

(2) 차원 축소 (PCA, 주성분 분석)

• 고유값이 큰 방향이 데이터의 중요한 정보를 많이 담고 있음.

• PCA (Principal Component Analysis)에서 고유벡터를 사용하여 데이터를 저차원으로 변환.

 

3. 간단한 예제

 

예를 들어, 다음과 같은 행렬이 있다고 가정하자.

 

$$A=\left[\begin{array}{cc}2& 0\\ 0& 3\end{array}\right]$$

 

이 행렬의 고유벡터와 고유값을 구해보자.

1. 고유값 방정식:

$$det(A-\lambda I)=0$$

 

$$\left|\begin{array}{cc}2-\lambda & 0\\ 0& 3-\lambda \end{array}\right|=0$$

 

$$(2-\lambda )(3-\lambda )=0$$

 

$${\lambda }_1=2,{\lambda }_2=3$$

2. 각 고유값에 대한 고유벡터:

 

• 고유값  lambda = 2일 때:

 

$$(A-2I)v=0$$

 

$$\left[\begin{array}{cc}2-2& 0\\ 0& 3-2\end{array}\right]\left[\begin{array}{c}x\\ y\end{array}\right]\left[\begin{array}{c}0\\ 0\end{array}\right]$$

 

이때 x는 자유롭게 선택 가능하며, y = 0이므로 고유벡터는 (1,0)^T.

• 고유값 lambda = 3 일 때:

 

$$(A-3I)v=0$$

 

$$\left[\begin{array}{cc}2-3& 0\\ 0& 3-3\end{array}\right]\left[\begin{array}{c}x\\ y\end{array}\right]\left[\begin{array}{c}0\\ 0\end{array}\right]$$

 

이때 x = 0이고, y는 자유롭게 선택 가능하므로 고유벡터는 (0,1)^T.

 

4. 결론

• 고유값은 행렬 변환 후 벡터의 크기 변화를 나타냄.

• 고유벡터는 변환 후에도 방향이 유지되는 특별한 벡터.