확률론이나 칼만 필터, EM 알고리즘 등을 공부하다 보면, 결국 핵심은 '두 확률 분포의 차이와 유사도를 어떻게 평가할 것인가'로 이어진다는 것을 알게 된다. 최근에 공부하던 힐베르트 공간(Hilbert Space)에서 바타차리아 거리(Bhattacharyya Distance)를 해석할 수 있음을 알게 되어, 이와 관련된 내용으로 글을 작성한다.바타차리아 거리(Bhattacharyya Distance) Bhattacharyya 거리는 두 확률 분포의 겹침 정도를 측정하여 분리성을 판단하는 데 주로 사용된다. 먼저 Bhattacharyya Coefficient (BC)를 다음과 같이 정의한다.이 계수를 이용하여 Bhattacharyya 거리는 다음과 같이 정의한다.수식을 살펴보면, P(x)와 Q(x)가..