공분산과 공분산 행렬

Style Transfer논문에 대한 코드 공부 도중에 공분산에 대한 이야기가 나와 정리해보려고 한다.

참조 블로그 : 블로그1, 블로그2

공분산이란?

X, Y변수 사이에 어떠한 관계가 있는지 알아보기 위해 사용된다.

두 변수 사이에 공분산이 0보다 큰 경우 X값이 커질 때 Y값도 커진다는 의미이며

공분산이 0보다 작다면 X값이 커질 때 Y값은 작아진다는 의미이다. 

공분산이 0이면 두 변수 사이에 아무런 관계도 없다는 것을 의미한다.

 

여기서 공분산 같이 일정하지 않으므로 표준편차 값으로 나누어준다면 값이 [-1,1] 사이를 갖게되며 이는 상관계수가 된다.

 

공분산 행렬이란?

벡터 간의 원소들이 서로에 대해 어떤 상관성을 갖는지, 짝지을 수 있는 모든 조합에 대한 공분산을 행렬로 표현한 것이다.

(여기서 X는 벡터 $X_{1,2,3,...n}$들의 집합)