선형대수 note 14: Orthogonal vectors and subspaces

4-fundamental-subspaces

공간 S 가 공간 T 와 직교 (orthogonal) 한다는 것은 S 의 모든 벡터들이 T 의 모든 벡터들과 직교한다는 것을 의미한다.

row space 와 null space 는 orthogonal 하다.
why? null space 의 정의에 의해,

    \[\begin{aligned} A\mathbf{x} &= \mathbf{0} \\ \begin{bmatrix} \text{row 1 of A} \\ \text{row 2 of A} \\ \vdots \\ \text{row m of A} \end{bmatrix} \begin{bmatrix} x_1 \\ x_2 \\ \vdots \\ x_m \end{bmatrix} &= \begin{bmatrix} 0 \\ 0 \\ \vdots \\ 0 \\ \end{bmatrix} \end{aligned}\]

    \[\begin{aligned} c_1 \text{row}_1^T \mathbf{x} &= 0 \\ c_2 \text{row}_2^T \mathbf{x} &= 0 \\ \vdots \\ c_m \text{row}_m^T \mathbf{x} &= 0 \end{aligned}\]

    \[\begin{aligned} c_1 \text{row}_1^T \mathbf{x} + c_2 \text{row}_2^T \mathbf{x} + \dots + c_m \text{row}_m^T \mathbf{x} &= 0 \\ (c_1 \text{row}_1 + c_2 \text{row}_2 + \dots + c_m \text{row}_m)^T \mathbf{x} &= 0 \end{aligned}\]

장황하게 풀어썼지만 사실 A\mathbf{x} = \mathbf{0} 에서 A 에 row operation 을 해도 우변의 \mathbf{0} 은 변하지 않는다는 걸 알기 때문에, A 의 row space 와 null space 벡터 \mathbf{x} 의 dot product 는 항상 0 이라는 걸 알 수 있다.

기하학적으로 생각해보자. 예를 들어 A3 \times 3 행렬이라고 하면, null space 는 원점을 지나는 평면들의 교 (intersection) 공간이다. 반면 row space 는 평면들의 normal 이 이루는 (span) 공간이다. 이 둘은 서로 orthogonal 하다는 것을 알 수 있다.

case 1) 3 개의 평면이 오직 원점에서만 겹칠 때 (rank 3)
null space: \mathbf{0} vector
row space: 평면의 normal 이 모두 선형 독립이므로 normal 들이 span 하는 공간은 \mathbb{R}^3

case 2) 3 개의 평면이 한 line 에서 겹칠 때 (rank 2)
null space: 원점을 지나는 line
row space: null space 가 이루는 line 과 직교하는, 원점을 지나는 평면

case 3) 3 개의 평면이 한 평면에 모두 겹칠 때 (rank 1)
null space: 겹친 평면
row space: 평면의 normal 방향의, 원점을 지나는 line

null space 는 row space 와 orthogonal 할 뿐 만 아니라 row space 와 직교하는 모든 벡터를 포함한다. 따라서 이 두 공간은 서로 상보적 (complement) 이다.

column space 와 left null space 역시 orthogonal complements 하다.


선형대수 note 목록

Leave a Reply

Your email address will not be published. Required fields are marked *