[선형대수학] 인공지능을 위한 선형대수 (2)

본 게시물의 내용은 '인공지능을 위한 선형대수(주재걸 교수님)' 강의를 듣고 작성하였다.

해당 글은 아래의 4가지를 다룬다.
1. 선형결합(Linear Combination)
2. 생성(Span)
3. 행렬의 곱셈
4. 선형독립과 선형종속(Linear Independence and Linear Dependence)

 

- 선형결합

- 선형결합(Linear Combinations)

: 여러개의 벡터에 상수배를 해준 일련의 항으로 구성된 표현식

- 벡터방정식(Vector Equation)

: 벡터로 표현된 방정식 (Ax=b에서 행렬을 벡터로 나눠서 형태만 바꿈)

 

- Span

: 선형결합으로 이루어진 식에 다양한 계수의 값을 넣어서 나온 모든 결과 벡터들의 집합

- Span의 기하학적 설명 (위쪽 그림 참고)

: v1, v2의 span은 공간상에서 하나의 평면을 의미한다.

- b벡터가 a1, a2, a3의 벡터로 이루어진 Span에 포함되어 있다면, b를 3개의 벡터의 선형결합으로 표현 할 수 있다.

Q. b가 a1, a2, a3 벡터의 Span에 포함되어 있다면 해는 존재하는가? (O)

- 행렬곱의 결과 해석

1) Column Combinations : 각각 Column 벡터의 선형결합의 결과로 해석

2) Row Combinations : 1번에서 transpose를 취하면 순서가 바뀌게 되고, 각각 Row 벡터의 선형결합으로 해석

3) Sum of Rank-1 외적 : rank1 벡터간의 외적으로 행렬곱을 표현할 수 있음

* 참고 - Rank1 행렬이란?

https://twlab.tistory.com/27

[Linear Algebra] Lecture 11-(2) Rank 1행렬 (Rank 1 Matrix)

 

- 하나의 행렬을 여러 벡터로 분해할 수 있다.

EX) 100x50 행렬을 100x50 행렬 10개로 분할하면, 총 5000개의 숫자를 1500개의 숫자로 표현하게 된다.

그러므로 정확하게 나타내기는 힘들지만, 근사적으로 나타내면 유용하게 사용할 수 있다.

 

 

 

- 선형독립과 선형종속

 

- Ax = b 문제

a1, a2, a3 벡터들이 선형독립일 때, 해는 유일하다.

a1, a2, a3 벡터들이 선형종속일 때, 해는 무수히 많다.

- 선형독립(Linearly Independence)

: 벡터 방정식이 trivial soultion만 갖고 있을 경우 선형 독립이라고 한다.

 

- 선형종속(Linearly dependent)

: 계수들 중 하나라도 nonzero면 선형 종속이라 한다.

 

- 자명해(Trivial Soultion)

: Ax=0의 해는 x=0 인 것처럼, 너무나 당연해서 사소하게 느껴지는 해

- 선형종속은 v1, v2의 span에 v3 벡터가 추가되었을때, Span이 동일하다면 v1, v2, v3가 선형종속관계이다.

- 선형종속 벡터는 Span이 변경되지 않는다!

- 선형 종속과 선형 시스템 해결법

선형종속인 벡터방정식에서 해 x가 [3, 2, 1]이라고 하자. 그러면 3v1+2v2+1v3=b가 성립된다. 이때 trivial solution을 가지고 있으므로, b=0이라 하면 v3=2v1+3v2가 나온다. 그리고 원래의 방정식에 대입하면 새로운 해가 나온다. 즉, 무수히 많은 해가 존재한다.