전사함수(Onto, Surjective)와 일대일함수(One-to-one, Injective)

출처: 부스트코스-인공지능을 위한 선형대수

수강일시:2021.01.06

 

전사함수는 공역=치역이 되는 함수를 말한다.

3차원 벡터를 2차원으로 보내는 변환을 생각해보자 모든 2차원벡터들의 합집합이 공역인데 치역은 해당 변환의 결과로 얻어질 수 있는 2차원 벡터들의 집합이다.

치역이 가장 커질때가 공역과 같아질때이다. 이를 onto라고 한다.

onto가 되려면 공역의 원소의 갯수보다 정의역의 원소의 갯수가 많거나 같아야 한다.

 

상수 n과 m에 대해 n<m이면 n demension 벡터에서 m demesion으로의 변환은 onto일 수 없다.

( ex) 단일평면은 공간을 채울 수 없다)

 

 

neural net에서

2개의 node에서 3개로 갈때(많아질때)

GAN /encoder decoder 등에서 node의 개수가 늘어나는 layer가 발생한다.

 

image file decoding으로 640x480x3의 color img를 만들고 싶을때 640x480x3x255가 공역의 공간이 된다.

이전 layer의 node가 10개라면 공역 전체를 덮을 수 없게 된다. 즉 전사함수가 될 수 없다.

즉 일부분만 커버할 수 있게된다.

 

그럼에도 의미있는 결과를 나타낼 수 있다면 문제가 없다.

 

 

one to one: 일대일함수

치역과 정의역이 일대일로 이루어진 함수

 

상수 n과 m에 대해 n>m이면 n demension 벡터에서 m demesion으로의 변환은 onto일 수 없다.

( ex)공간을 평면으로 투영하면 여러점이 한개의 평면위로 모이는 경우가 발생한다.)

즉 linearly depedent해진다.

 

 

one to one neural network예시

life span을 계산하는 neural network에서

overweight value와 tall_and_smoking의 value가 특정값으로 계산되었다면

life-span또한 특정한값에 의존적으로 결정된다.

이때 오버웨이트와 톨앤스모킹의 value는 3개의경우가 하나의 값으로 mapping되므로 서로 다른값의 weight height is-smoking의 값을 가져도 같은 결과를 나타낸다. (거꾸로 복원이 불가능하다)

즉 의도적으로 유의미한값만 남기게 된다.

 

가우스소거법 lu factorization invertable matrix등은 따로 찾아보는것도 좋을것같다.