기본기 다지기/Mathematics for ML

[선형대수] 2.2 Matrices

syveany 2025. 1. 21. 00:08

공부하는 단계에서 정리한 내용입니다.

잘못된 내용이 있다면 말씀해주시면 감사하겠습니다.

https://mml-book.github.io/book/mml-book.pdf

 

먼저 matrix의 정의를 알아보자.

 

Def 2.1 (Matrix)

- 실수로 이루어진 ($m$, $n$) $matrix A$는 $m * n$개의 원소로 이루어진 순서쌍이다.

- 1에서 $n$을 row라고 하고, 1에서 $m$을 column이라고 한다.

 

 

2.2.1 Matrix Addition and Multiplication

- mxn행렬 A와 mxn행렬 B의 element-wise sum (2.12)와 같다.

- mxn행렬 A와 nxk행렬 B의 product(행렬곱)은 (2.13)과 같이 표현되고, Example 2.3과 같이 계산된다.

- 여기서 알 수 있듯이, product(행렬곱)은 교환법칙이 성립하지 않는다. (∵ AB != BA)

 

Def 2.2 (Identity Matrix)

- 대각선에 1이 들어가고 나머지는 0인 nxn matrix를 Identity Matrix라고 한다.

 

Matrix의 성질

- 아래는 matrix의 성질이다.

- Associativity(결합법칙), Distributivity(분배법칙)이 성립하고,

 

- Identity matrix과 matrix A를 곱하면 A 자체가 된다. 계산해보면 아래와 같다.

2.2.2 Inverse and Transpose

Def 2.3 (Inverse)

- nxn행렬 A와 nxn행렬 B에 대해서, $AB$ = $I_{n}$ = $BA$ 이면 B를 inverse of A라고 하고, $B = A^{-1}$라고 쓴다. 

- 모든 행렬이 inverse행렬을 갖는 것은 아니다.

 

Def 2.4 (Transpose)

- mxn행렬 A와 nxm행렬 B에 대해서, $b_{ij}$ = $a_{ji}$ 이면 B를 transpose of A라고 하고, $B = A^{T}$라고 쓴다. 

 

- Inverse와 Transpose는 아래 성질을 갖는다.

 

 

Def 2.5 (Symmetric Matrix)

- mxn행렬 A에 대해서, $A$ = $A_{T}$이면 A를 symmetric matrix라고 한다. 

- 다음 성질을 만족한다.

$$(A^{-1})^T = (A^T)^{-1}=:{A}^{-T}$$

- Symmetric matrix끼리 더하면 항상 symmetric하고, 곱하면 무조건 symmetric하진 않다.

 

2.2.3 Multiplication by a Scalar

- A $\in$ \mathbb{R}^{m \times n}이고 $\lambda \in \mathbb{R}$ 일 때, $\lambda A = K$이고 $K_{ij} = \lambda a_{ij}$이다.

- 그냥 성분끼리 곱해진다고 보면 된다.

- Associativity와 distributivity를 모두 만족한다.

 

2.2.4 Compact Representations of Systems of Linear Equations

- 왼쪽과 같은 linear equation들은 오른쪽과 같은 matrix로 표현될 수 있다.