[선형대수] 2.5 Linear Independence

공부하는 단계에서 정리한 내용입니다.

잘못된 내용이 있다면 말씀해주시면 감사하겠습니다.

https://mml-book.github.io/book/mml-book.pdf

 

- 이번 단원에서는 벡터로 무엇을 할 수 있는지 알아볼 것이다.

  벡터끼리 더할수도 있고, 스칼라곱을 할 수도 있다.

  Closure property(벡터 연산을 하기 전과 후의 벡터는 항상 같은 벡터 공간에 속한다) 성질이 있다.

  몇 개의 특정 벡터들을 적당히 더하고 곱해서 벡터 공간에 있는 모든 벡터를 만들어 낼 수도 있다.

- 2.6에서 Basis라는 개념을 배우기 전에, linear combination과 linear independence에 대한 개념을 공부해야 한다.

 

 

Def 2.11 (Linear Combination)

 

- $v$를 $x_{1}, x_{2}, ... , x_{k}$라는 벡터들의 스칼라 곱과 덧셈으로 만들 수 있다면, $v$를 $x_{1}, x_{2}, ... , x_{k}$의 linear combination라고 한다.

- 영벡터는 항상 $x_{1}, x_{2}, ... , x_{k}$의 linear combination이라고 할 수 있다. ($\because 0 = \sum_{i=1}^k \lambda_i \mathbf{x}_i$가 항상 참이기 때문)

 

 

Def 2.12 (Linear (In)dependence)

 

- 만약 $x_{1}, x_{2}, ... , x_{k}$ 벡터들 중 하나 이상의 벡터가 나머지 벡터들의 선형 결합으로 표현될 수 있다면, 이 벡터 집합은 linearly dependent 하다.

- 만약 $x_{1}, x_{2}, ... , x_{k}$ 벡터들에 대한 유일한 선형 결합이 $\lambda_1 = \lambda_2 = ... = \lambda_k = 0$인 경우, 이 벡터 집합은 linearly independent 하다.

- 직관적으로 생각해봤을 때, 선형 독립적인 벡터 집합에서 벡터 하나를 제거하면 중요한 정보를 잃게 된다. 중복이 없는 벡터들로 이루어져 있기 때문이다.

 

 

Ex 2.13 (Linearly Dependent Vectors)

- 아래와 같은 그림에서 Nairobi를 점 A, Kampala를 점 B, Kigali를 점 C라고 할 때,

   - $\vec{AB}$와 $\vec{BC}$는 linearly independent하다.

   - $\vec{AB}$와 $\vec{BC}$와 $\vec{AC}$는 linearly dependent하다. ($\because \vec{AC} = \vec{AB} +\vec{BC}$)

 

 

Remark. 벡터의 linearly independent 여부를 볼 때 사용할 수 있는 기준들

- K개의 벡터들은 linearly dependent하거나 independent 하다. 다른 선택지는 없음

- K개의 벡터들 중에서 영벡터가 하나라도 존재하거나, 같은 벡터가 존재하면 linearly dependent하다. 

- 영벡터가 아닌 K개의 벡터들이 linearly dependent하려면 벡터 하나 이상이 나머지 벡터들의 linear combination으로 표현될 수 있어야 한다.

    e.g. $x_{1} = (1,0), x_{2} = (2,0), x_{3} = (0,1)$ 일 때 $x_{1} = 2x_{2}$이므로 이 집합은 linear dependent 하다.

- K개의 벡터들이 linear independent한지 보고싶을 때는 gaussian elimination을 사용하면 좋다. 변환된 행렬에서

    - pivot열은 linear independent한 벡터이고,

    - non-pivot열은 다른 벡터들의 linear dependent한 벡터이다.

      e.g. $\begin{bmatrix} 1 & 3 & 0 \\ 0 & 0 & 2 \end{bmatrix}$에서

             1,3번째 열은 pivot열이므로 1,3번째 벡터는 linear independent하다.

             2번째 열은 non-pivot열이므로, 2번째 벡터는 linear dependent하다. 

    - 즉, 모든 벡터가 linear independent하려면 모든 열이 pivot열이어야 한다.

 

[예시]

 

 

Remark. Linear independence를 검증하는 방법

- 벡터공간 $V$에 $m$개의 벡터가 있고, 각각 $b_{1}, b_{2}, ... , b_{k}$의 선형결합으로 표현된다고 하자.

  즉,  $x_1 = \sum_{i=1}^k \lambda_{i1} b_i ,    x_2 = \sum_{i=1}^k \lambda_{i2} b_i ,  \quad \dots \quad ,  x_m = \sum_{i=1}^k \lambda_{im} b_i$이다.

- 여기서 $x_{1}, x_{2}, ... , x_{m}$이 linearly independent 한지 보려면 $\lambda_{1}, \lambda_{2}, ... , \lambda_{m}$이 linearly independent 한지 보면 된다.

  아래의 식에서 도출된다. ($\psi_j$는 스칼라 계수)

$$\sum_{j=1}^m \psi_j x_j = \sum_{j=1}^m \psi_j \mathbf{B} \lambda_j = \mathbf{B} \sum_{j=1}^m \psi_j \lambda_j$$

 

Remark. k개 벡터 중에서 k개 보다 많이 combinatinon을 하면 무조건 linearly dependent하다.

- m > k 일 때, $x_{1}, x_{2}, ... , x_{k}$ 개의 벡터의 m개의 linear combination은 항상 linearly dependent하다.

  중복이 생기기 때문이다.