기본기 다지기/Mathematics for ML

[선형대수] 2.7 Linear Mappings ~ 2.7.1 Matrix Representation of Linear Mappings

syveany 2025. 1. 27. 09:42

공부하는 단계에서 정리한 내용입니다.

잘못된 내용이 있다면 말씀해주시면 감사하겠습니다.

https://mml-book.github.io/book/mml-book.pdf

 

- 이 단원에서는 벡터 공간의 구조를 보존하는 mapping인 Linear Mapping에 대해서 배울 것이다. 

 

Def 2.15 (Linear Mapping)

- 벡터공간 $V$에서 벡터공간 $W$로 가는 함수 $\phi: V \to W$ 가 벡터공간의 성질을 유지하면 Linear Mapping(선형변환)이라고 한다.

- Linear Mapping이 되려면 아래 2가지 조건을 만족해야 한다.

  1. $\phi (x+y) = \phi(x) + \phi(y)$

  2. $\phi(\lambda x) = \lambda \phi(x)$

 

- 모든 linear mapping은 행렬로 표현 가능하다.

- 행렬은 linear mapping 또는 collection of vectors로 해석될 수 있다.

- 행렬을 대할 때는 이 행렬이 어떤 변환을 나타내고 있는건지, 아니면 벡터들의 집합을 의미하고 있는건지를 체크해야 한다.

- Linear mapping에 대한 내용은 Chapter4에 더 나오고, 지금은 special mappings에 대해서 알아보자.

 

 

Def 2.16 (Injective, Surjective, Bijective)

- 함수 $\phi$가 Injective(일대일대응)라면, 서로 다른 입력 $x,y$에 대해서 $\phi(x) = \phi(y)$ 이면 x=y이어야 한다.

- 함수 $\phi$가 Surjective(전사)라면, 벡터공간 $W$의 모든 원소가 $V$의 원소에서 나올 수 있어야 한다.

  즉, 공역 $W$에 있는 모든 값이 만들어져야 한다.

  e.g. $\phi(x) = x + 3$은 surjective하고, $\phi(x) = x^2$은 surjective하지 않다. 음수값은 나올 수 없기 때문.

- - 함수 $\phi$가 Bijective라면, injective이고 surjective을 둘 다 만족해야 한다.

 

 

- Bijective 함수 $\phi$는 undone될 수 있다. 즉, 역함수를 가질 수 있다.

- 이를 바탕으로, 벡터공간 $V$와 $W$에 있는 linear mapping의 특별한 케이스들을 소개한다.

  (1) Isomorphism(동형사상): $\phi : V \to W$ linear and bijective

    - "동형": 두 벡터 공간이 완전히 같은 구조를 가진다는 뜻

    - 즉, $\phi$를 통해 $V$와 $W$가 완전히 1:1로 연결된다. $V$에 있는 정보가 $W$에도 정확히 보존된다는 뜻이다.

    - e.g. $\mathbb R^2$와 $\mathbb R^3$ 사이의 회전 변환

  (2) Endomorphism(자기사상): $\phi : V \to V$ linear

    - 즉, 입력과 출력이 같은 공간 안에 있음

    - Bijective 조건이 필요 없음

    - 즉, 벡터 공간을 자기 자신 안에서 변환하는 경우를 의미함

    - e.g. $\mathbb R^3$ 안에서 90도 회전하는 변환

  (3) Automorphism(자기동형사상): $\phi : V \to V$ linear and bijective

    - 즉, 같은 공간에서 작동하는 선형 변환이면서 1:1 대응도 됨

    - 즉, 같은 공간에서 작동하는 Isomorphism을 의미함

    - e.g. $\mathbb R^3$에서의 3D 회전행렬

  (4) Identity Automorphism/Mapping(항등변환): $id_{v} : V \to V, x \to x$

    - 어떤 벡터 x를 넣어도 그대로 나옴. 즉, 아무 변화도 주지 않는 변환임

    - Linear mapping이고 bijective이므로 Automorphism도 만족함

 

 

Ex 2.19 (Homomorphism)

- Homomorphism이라는 용어는 보다 일반적인 개념으로, 구조를 보존하는 함수를 의미한다.

- Linear mapping도 일종의 homomorphism이지만 homomorphism은 꼭 선형변환이 아니어도 된다.

  cf. 벡터 공간 사이의 homomorphism은 linear mapping라고 하고,

       군 사이의 homomorphism을 group homomorphism라고 하고,

       환 사이의 homomorphism을 ring homomorphism이라고 부른다.

- $\phi : \mathbb R^2 \to \mathbb C$, $\phi(x) = x_{1} + ix_{2}$와 같은 변환을 정의해보자.

  이는 실수벡터 $\begin{bmatrix} x_{1} \\ x_{2} \end{bmatrix}$를 복소수 $x_{1} + ix_{2}$로 변환하는 함수이다.

  이 변환에서 덧셈이 보존되고, 스칼라곱이 보존되므로 이 변환은 homomorphism이다!

 

 

Theorem 2.17 (Theorem 3.59 in Axler (2015))

- 유한 차원 벡터공간 $V$와 $W$가 isomorphic인 필요충분조건은 $dim(V) = dim(W)$이다.

  즉, 두 벡터 공간의 차원만 같다면, 서로 1:1 대응하는 isomorphism이 존재한다.

 

- 이 정리는 $m \times n$ 행렬 공간 $\mathbb R^{m \times n}$과 길이가 $mn$인 벡터 공간 $\mathbb R^{mn}$을 동일하게 볼 수 있는 근거를 제공한다. 두 공간이 isomorphic하기 때문이다.

  즉, $m \times n$ 행렬을 벡터로 변환할 수 있다!

- 정리하자면, 행렬과 벡터는 차원만 같다면 서로 변환이 가능하고, 이 변환은 선형 변환이므로 isomorphic하다!

 

 

Remark. Linear mapping의 성질

- Linear mapping의 조합도 linear mapping이다.

  (Linear mapping $\phi : V \to W$ 와 $\psi : W \to X$에 대해서, $\psi \circ \phi : V \to X$도 linear mapping이다.)

 

- Isomorphism의 역변환도 isomorphism이다.

  ($\phi : V \to W$이 isomorphism이면 $\phi^{-1} : V \to W$도 isomorphism이다.)

 

- Linear mapping의 덧셈과 스칼라곱도 linear mapping이다.

  ($\phi : V \to W$ 와 $\psi : V \to W$가 linear mapping이면 $\phi + \psi$와 $\lambda \phi, \lambda \in \mathbb R$도 linear mapping이다.)

 

- Basis를 바꾸는 것도 linear mapping의 한 예시이다.

  같은 벡터라도 basis를 바꾸면 다른 좌표값으로 표현된다.

 

 

2.7.1 Matrix Representation of Linear Mappings

 

Def 2.18 (Coordinates)

 

 

 

Def 2.19 (Transformation Matrix)