선형결합(Linear Combination), 스팬(span)

출처: 부스트코스-인공지능을 위한 선형대수

수강일시:2021.01.05

 

span은 어떠한 벡터의 선형 결합으로 이루어진 직선 평면 공간등의 n차원 집합이다.

 

[1,2]T 와 [3,4]T의 span은 두 벡터의 선형 결합으로(상수곱의 합) 만들어 낼 수 있는 2차원 직선이 된다.

따라서 3개의 평행하지 않은 서로다른 벡터의 span은 3차원 공간 전체가 된다.

 

이런 개념을 이용해 문제를 해결해보자

몸무게,키,흡연여부로 기대수명이 정해진다면 다음의 방정식을 통해 모든 기대수명을 측정할 수 있다.

 

아까 전에 본 span의 개념으로 본다면 

a1x1+a2x2+a3x3=b라는 문제에 대해 해의 존재 여부를

 

[60 65 55]T 

[5.5 5.0 6.0]T

[1 0 1]T

세 벡터를 선형 결합하여 [66 74 78]T 라는 벡터를 표현 할 수 있는지로 보면 된다.

세개의 서로다른 방정식으로 보는것이 아니라 세개의 재료벡터로 만들어진 span 내에 또다른 벡터가 존재하는지를 보는것으로 알 수 있다.

 

 

 

 

3X2 행렬과 2X2행렬의 곱을 보자.

이 행렬의 곱은 각각의 행과 열에대해 내적한것들로 계산할 수 있다.

하지만 이를 하나의 벡터방정직으로 본다면

각각의 열 벡터들에 가중치가 부여된 것으로 볼 수 있다.

 

3X3행렬과 3X2행렬의 곱으로 다시 확인한다면

피연산행열에 대해 곱하는 행렬의 각 열 벡터이 선형 결합하여 해(열벡터)가 나오는 것으로 볼 수 있다.

즉 해column은 피연산 행렬의 span안에 들어오게 되어야 해가 존재하는것으로 해석한다.

 

이는 row vector의 linear combination으로도 볼 수 있는데

각각 transpose를 취하여 본다면 row vector(A transpose의 row vector)의 선형결합(x transpose곱)으로 볼 수있다.

 

sum of rank 1 outer product

각각의 행렬을 rank-1행렬로 분해하여 각 행과 열들의 outer product를 진행하고 합하여 구할 수 있다.

 

활용예)

row rank factorization

covariance matrix in multivariate gaussian

gram matrix in style transfer