sohyunkim 님의 블로그

[연속 상태 추정 - 3] 푸리에 변환을 이용한 가우시안 전이 커널 도출

sohyunkim — Sun, 1 Mar 2026 18:54:38 +0900

이전 포스팅에서는 포커-플랑크 방정식(FPE)의 복잡한 해를 효율적으로 구하기 위해, '딱 한 점'에서 출발하는 기본 해인 '전이 커널(Transition Kernel)'의 개념을 설명했다.

또한, 선형 중첩의 원리를 적용하면 임의의 초기 분포가 미래에 어떻게 퍼져나가는지를 단 하나의 적분식(베이즈 예측 과정)으로 표현할 수 있음을 확인했다.

하지만, 연속 시간 상태 추정(Kalman-Bucy Filter 등) 알고리즘에 이를 실제로 사용하려면, 커널의 닫힌 해를 수학적으로 찾아내야만 한다.

따라서 이번 포스팅에서는 공간(x)과 시간(t)에 대한 다중 미분이 섞인 편미분 방정식을 풀어 전이 커널의 해를 찾을 것이다.

(네이버 포스팅 환경에서 추정 상태 hat을 작성할 수 없다. hat{p} 참고바란다.)

앞서 유도한 FPE을 풀어 시스템의 '기본 해'인 전이 커널 K를 구하는 표준적인 방법은 Fourier Transform을 이용하는 것이다.

-> FPE를 보면, 시간, 공간에 대한 미분이 섞여 있다. 푸리에 변환의 성질에 의해 공간에 대한 미분 연산자가 단순히

ik라는 상수를 곱하는 연산으로 바뀌어 편미분 방정식을 쉽게 풀 수 있다.

계산의 편의를 위해 공간 내에서 일정한 속도 벡터 v와 스칼라 확산 계수 Q를 가진다고 가정하고, 다음과 같은 FPE를 푼다.

푸리에 변환을 이용한 편미분 방정식의 상미분 방정식(ODE)화

공간 변수 x에 대한 p(x, t)의 푸리에 변환을 주파수 공간의 벡터 k를 이용하여 hat{p}(k, t)로 정의한다.

푸리에 변환의 수학적 성질에 따라, 공간에 대한 미분(도함수)은 주파수 공간에서의 곱셈으로 단순화된다.

나머지는 네이버 블로그에서 확인해주세요.

[연속 상태 추정 - 1] SDE에서 FPE 유도
[연속 상태 추정 - 2] FPE의 전이 커널과 선형 중첩 원리
[연속 상태 추정 - 3] 푸리에 변환을 이용한 가우시안 전이 커널 도출

[연속 상태 추정 - 2] 포커-플랑크 방정식(FPE)의 전이 커널과 선형 중첩 원리

sohyunkim — Sun, 1 Mar 2026 18:51:38 +0900

지난 포스팅에서는 개별 입자의 미시적 무작위 움직임(SDE)이 어떻게 거시적인 확률 분포의 흐름을 지배하는 편미분 방정식, 즉 포커-플랑크 방정식(FPE, Fokker-Planck Equation)으로 연결되는지 이토 미적분학을 통해 유도하였다.

FPE의 본질은 확률 분포를 시간에 따라 진화시키는 규칙 그 자체이다. 해당 규칙에 현재 상태 확률 분포를 초기 조건으로 넣으면, 엄밀한 FPE의 편미분 방정식에 따라 미래 시점 t에서의 예측 분포를 얻을 수 있다.

하지만, 초기 분포로 사용되는 분포는 매번 다양한 형태로 주어진다. 그때 마라 편미분 방정식을 푸는 것은 비효율적이다. 이를 해결하기 위해 전이 커널과 선형 중첩의 원리를 사용한다.

포커-플랑크 방정식과 일반 해의 한계

시스템의 동역학을 반영하여, 2차원 공간 x에서 확률 밀도 함수 p(x, t)가 시간에 따라 어떻게 진화하는지 예측하는 FPE을 세우면 다음과 같다.

우리의 궁극적인 목표는 이 편미분 방정식을 풀어 특정 시간 t에서의 분포 p(x, t)를 얻는 것이다. 하지만 실전에서는 초기 위치 분포 p(x_0, t_0)가 매번 다양한 형태로 주어지기 때문에, 그때마다 이 복잡한 편미분 방정식을 처음부터 다시 푸는 것은 비효율적이다.

FPE의 선형성과 '기본 해(전이 커널 K)'의 도입

다행히 FPE는 p(x, t)에 대한 선형 방정식이므로 선형 중첩의 원리가 성립한다. 이는 복잡한 초기 분포를 무수히 많은 '점'들로 잘게 쪼갠 뒤, 각각의 점이 퍼져나간 결과를 모두 더해도 전체 결과와 같다는 것을 의미한다.

따라서, 임의의 분포를 매번 계산하는 대신 "정확히 한 점 x0에서 출발했을 때 확률이 어떻게 퍼져나가는가?"에 대한 만능 해답을 하나 구해두기로 한다. 이를 FPE의 기본 해(Fundamental Solution) 또는 전이 커널(Transition Kernel)이라 부르며, K( x, t | x_0, t_0)로 표기한다.

나머지는 네이버 블로그에서 확인해주세요.

[연속 상태 추정 - 1] 이토 미적분학(Itô Calculus)을 통한 확률 미분 방정식(SDE)에서 포커-플랑크 방정식(FPE) 유도

sohyunkim — Sun, 1 Mar 2026 18:47:43 +0900

일반적인 상태 추정 알고리즘에서는 주로 Discrete-time 기반의 칼만 필터를 적용하여, 이전 상태의 불확실성에 노이즈 공분산을 단순히 더해주는 방식(P_k+1=FP_kF^T+Q)으로 예측 단계를 수행한다.

그러나 실제 물리 세계의 시스템은 연속적인 시간 흐름 속에서 동역학적 변화를 겪는다. 따라서 시스템의 상태 확률 분포가 구체적으로 어떤 물리 법칙에 의해 확산되고 진화하는지 그 원리를 수학적으로 확인할 필요가 있다.

이 연속 시간 칼만 필터(Kalman-Bucy Filter)의 Prediction 단계를 지배하는 핵심 수학적 모델이 바로 포커-플랑크 방정식(Fokker-Planck Equation, FPE)이다.

이번 포스팅에서는 개별 입자의 미시적 확률 움직임을 나타내는 확률 미분 방정식(SDE)이, 어떻게 전체 확률 분포의 거시적 변화를 나타내는 포커-플랑크 방정식(FPE)으로 연결되는지 이토 미적분학(Itô Calculus)을 통해 확인한다.

최종적으로 해당 [연속 상태 추정 - x] 시리즈에서는 Kalman-Bucy Filter 유도까지 진행할 계획이다.

아래 수식은 개별 입자의 미시적 확률 움직임을 나타내는 확률 미분 방정식이다.

기호는 다음과 같다:

μ: 결정론적 움직임 (Drift)
σ: 확률론적 확산 (Diffusion)
dWt: 브라운 운동 (위너 프로세스)

임의의 함수 도입과 합성함수의 이해

확률 변수 X_t의 움직임만으로는 확률 밀도(PDF)에 대한 편미분 방정식을 직접 세울 수 없다. 이를 우회하기 위해 양 끝(± ∞)에서 0으로 매끄럽게 수렴하는 임의의 함수 f(x) 를 도입한다.

여기서 상태 X_t는 고정된 상수가 아니라 시간 t에 따라 변하는 확률 과정(Stochastic Process)이다. 따라서 f(X_t)는 단순히 변수 하나에 대한 함수가 아니라, 다음과 같은 구조를 갖는 시간 t에 대한 합성함수가 된다.

이토 미적분학과 2차항의 생존 (Itô's Lemma의 핵심)

합성함수 f(Xt)의 미세한 변화량 df(X_t)를 구하기 위해 테일러 전개를 수행한다.

일반 미적분학과 확률 미적분학의 결정적 차이는 바로 이 테일러 전개의 2차항인 (dX_t)^2의 처리 방식에서 발생한다.

나머지는 네이버 블로그에서 확인해주세요.

시계는 와치...[세이코 sbth007]

sohyunkim — Wed, 24 Dec 2025 19:19:53 +0900

결국 눈에 아른거리던 sbth007을 샀다.

샴페인 색상의 다이얼과 칼침, 그리고 한자로 된 날짜 창이 계속 눈에 맴돌았다.

구매는 네이버 스마트 스토어 중 후기가 많은 곳을 이용했다. 가격은 관세 포함 약 26만 원 정도였다.

통관 서류를 보니 145달러로 신고되어 있었다. 나중에 세관에 걸리면 구매자 책임이라던데... 결국 낮은 가격으로 신고해서 관세는 안 나오겠지만, 차액은 판매자가 챙기는게 아닌가 싶다. 물론 추측일 뿐이다.

가성비가 좋다. 특히 사파이어 글라스가 적용된 점이 만족스럽다. 미네랄 글라스에 생기는 기스를 경험하고 나니, 사파이어 글라스가 확실히 장점으로 느껴졌다.

케이스는 37.4mm, 럭투럭은 42.9mm이다. 아래 사진은 해밀턴 머피 38과 비교한 모습이다.

검정 가죽 스트랩으로 교체해봤는데, 개인적으로는 기본 브레이슬릿이 더 마음에 들었다.

주문한 토프 색상의 앱송 스트랩이 도착하면 다시 교체해 볼 생각이다. 사실 처음부터 토프 컬러 가죽 줄질을 염두에 두고 있었다.

기본 브레이슬릿은 착용감이 가볍다. 특히 길이 조절을 위해 별도의 공구를 구매할 필요가 없다는 점이 좋다. 동봉된 핀만 있으면 쉽게 줄일 수 있다. (브레이슬릿 빼는건 더럽게 힘들다)

네이버 페이 이벤트도 진행 중이라 습뜨를 고민 중이라면 이번 기회에 구매하길 추천한다.

시계는 와치...[세이코 sbth007]

결국 눈에 아른거리던 sbth007을 샀다. 샴페인 색상의 다이얼과 칼침, 그리고 한자로 된 날짜 창이 계속 눈...

blog.naver.com

[통계적 거리 (Statistical Distance)] 두 확률 분포의 거리 측정: 바타차리아 거리 (Bhattacharyya Distance)

sohyunkim — Tue, 16 Dec 2025 16:37:17 +0900

확률론이나 칼만 필터, EM 알고리즘 등을 공부하다 보면, 결국 핵심은 '두 확률 분포의 차이와 유사도를 어떻게 평가할 것인가'로 이어진다는 것을 알게 된다.

최근에 공부하던 힐베르트 공간(Hilbert Space)에서 바타차리아 거리(Bhattacharyya Distance)를 해석할 수 있음을 알게 되어, 이와 관련된 내용으로 글을 작성한다.

바타차리아 거리(Bhattacharyya Distance)

Bhattacharyya 거리는 두 확률 분포의 겹침 정도를 측정하여 분리성을 판단하는 데 주로 사용된다. 먼저 Bhattacharyya Coefficient (BC)를 다음과 같이 정의한다.

이 계수를 이용하여 Bhattacharyya 거리는 다음과 같이 정의한다.

수식을 살펴보면, P(x)와 Q(x)가 동시에 높은 값을 가지는 영역이 많을수록 P(x) · Q(x)의 합이 커지고, 결과적으로 로그 앞의 마이너스 부호로 인해 거리는 작아진다. 반대로 두 분포가 전혀 겹치지 않는다면 P(x) · Q(x)는 모든 x에서 0이 되어 거리는 무한대가 된다.

위 그림은 서로 다른 평균과 분산을 가진 두 가우시안 분포(P, Q)와, 그 사이의 Bhattacharyya 거리를 시각화한 것이다.

보라색 영역 (Overlap Kernel): 그림 중앙의 보라색 빗금 친 영역은 두 분포의 기하평균 곡선이다. 이 영역의 넓이가 바로 BC이다.
곱셈: 두 분포가 동시에 높은 확률을 가질 때만 값이 커진다. 즉, 한쪽이라도 확률이 0에 가까우면 보라색 영역은 사라진다.
로그의 역할:
- 두 분포가 완벽하게 일치하면 겹치는 넓이(BC)는 1이 되고, 거리는 -ln(1) = 0이 된다.
- 반대로 두 분포가 전혀 겹치지 않으면 넓이(BC)는 0이 되고, 거리는 -ln(0) → ∞로 발산한다.

결국 바타차리아 거리는 "두 분포가 공유하는 보라색 영역이 넓을수록 거리가 가깝다"라고 판단하는 지표임을 알 수 있다.

Bhattacharyya 계수의 기하학적 해석: 구면 위의 각도

일반적인 확률 밀도 함수 P(x)는 모두 더하면(적분하면) 1이 된다는 성질을 가진다.

이 상태로는 기하학적으로 다루기 까다롭다. 하지만 여기에 루트를 씌워 새로운 함수를 정의해 보자. 이제 이 함수 f(x)의 L2 Norm (벡터의 길이)을 계산한다.

즉, 임의의 확률 분포 P에 루트를 씌운 루트(P)는 Hilbert 공간상에서 길이가 항상 1인 Unit Vector가 된다. 이것은 모든 확률 분포들이 반지름이 1인 Hypersphere의 표면 위에 존재한다는 것을 의미한다.

이제 두 확률 분포 P와 Q를 각각 단위 벡터 u = 루트(P), v = 루트(Q)로 생각할 수 있다. Hilbert 공간에서 두 함수의 내적은 다음과 같이 정의된다.

나머지는 네이버 블로그에서 확인해주세요

[통계적 거리 (Statistical Distance)] 두 확률 분포의 거리 측정: 바타차리아 거리 (Bhattacharyya Distance)

확률론이나 칼만 필터, EM 알고리즘 등을 공부하다 보면, 결국 핵심은 '두 확률 분포의 차이와 유사...

blog.naver.com

[칼만 필터 - 10] 칼만 필터 업데이트의 기하학적 이해

sohyunkim — Sat, 13 Dec 2025 19:48:57 +0900

이번 글은 칼만 필터의 업데이트 과정을 기하학적으로 설명한다.

먼저 힐베르트 공간(Hilbert Space)을 이해해야 한다. 칼만 필터의 수식은 복잡한 행렬 연산으로 이루어져 있는데, 이 수식들을 힐베르트 공간이라는 기하학적 관점에서 바라보면, 직관적으로 해석이 가능해진다.

힐베르트 공간을 전부 설명하지는 않을 것이다. 가장 중요한 내용은 확률변수(Random Variable)를 Vector로 취급한다는 것이다.

즉 PDF가 힐베르트 공간에서는 벡터로 해석이 되고, 통계학적 내용들이 기하적 세상에서 다음과 같이 해석된다.

확률변수 (x) → 벡터
표준편차 (σx) → 벡터의 길이 (화살표가 길수록 불확실하다)
공분산 (E[XY]) → 내적 <x, y> (두 화살표의 방향이 얼마나 비슷한가)
독립성 (Independent) → 직교 (서로 아무런 관계가 없다)
최적 추정 (Estimation) → 투영 (Projection)

Hilbert Space and the Projection Theorem

우리가 추정하고자 하는 시스템의 상태와 관측값은 모두 노이즈를 포함한 확률변수이다. 이를 벡터 공간으로 옮겨오면, 칼만 필터의 최적 추정은 오차 벡터의 길이를 최소화하는 문제, 즉 기하학적인 최단 거리를 찾는 문제가 된다.

그림에서 보라색 벡터가 시작하는 지점은 현재의 예측된 확률 분포를 나타낸다. 여기서 뻗어 나가는 세 가지 핵심 벡터는 다음과 같다:

사전 불확실성 (녹색 벡터): 모델 예측이 가지고 있는 불확실성이다. 벡터의 길이는 사전 공분산 HPH^T의 제곱근에 해당한다.
측정 노이즈 (v, 회색 벡터): 센서가 가진 고유한 불확실성이다. 벡터의 길이는 측정 노이즈 공분산 R의 제곱근이다.
Innovation (y, 파란색 벡터): 실제 센서 측정값과 예측값의 차이다. 이는 신호의 불확실성과 노이즈가 합쳐진 결과물이며, 벡터 합으로 표현된다.

여기서 가장 중요한 기하학적 특징은 독립성(Independence)과 직교성(Orthogonality)의 관계이다. 시스템의 상태 오차와 측정 노이즈는 통계적으로 서로 독립이므로, 기하학적으로 두 벡터는 90˚를 이루며 직교한다. 따라서 이노베이션 벡터의 길이(분산 S)는 피타고라스 정리에 의해 S = HPH^T + R로 정의된다.

칼만 필터의 목적은 관측된 정보(Innovation) 중에서 우리가 신뢰할 수 있는 '진짜 신호'의 성분을 걸러내는 것이다. 기하학적으로 이것은 사전 불확실성 벡터를 관측 공간으로 수직 투영(Orthogonal Projection) 시키는 것과 같다. (보라색 벡터의 끝이 우리가 도달하고 싶은 True(초록색 벡터의 끝)에 가장 가까운 지점을 생각해 보면 된다.)

그림의 보라색 벡터가 바로 이 투영의 결과이다. 칼만 게인 K는 전체 이노베이션 벡터 길이(루트(S)) 대비 투영된 그림자의 길이 비율을 결정하는 계수이다.

Case A와 같이 측정 노이즈가 작을수록 초록색 벡터는 바닥으로 더 길게 투영되며, 이는 관측값을 더 많이 신뢰한다는 것을 의미한다(K = 0.72). 반면 Case B처럼 노이즈가 크면 투영된 그림자는 짧아지고, 관측값의 반영 비율이 줄어든다(K = 0.39).

결국 칼만 업데이트 수식은 확률변수 벡터 공간에서 노이즈 성분을 제거하고 신호 성분만을 추출하기 위한 직교 투영 연산임을 알 수 있다.

하지만 이 1차원적인 투영 해석은 업데이트의 크기에 대한 직관을 제공할 뿐, 다차원 상태 공간에서 업데이트가 이루어지는 방향까지 완전히 설명하지는 못한다. 실제 상태 변수들 간의 상관관계가 업데이트 방향을 어떻게 비틀어 놓는지에 대해서는 다음 섹션에서 다룬다.

Update Direction and the Role of Covariance in State Space

앞선 힐베르트 공간에서의 해석이 업데이트의 크기를 결정하는 과정이었다면, 상태 공간에서의 해석은 업데이트의 방향을 결정하는 원리를 보여준다. 칼만 필터가 단순한 가중 평균 필터와 차별화되는 결정적인 이유가 바로 이 방향성에 있다.

위 그림은 관측되지 않은 상태 변수까지도 수정해내는 칼만 필터의 기하학적 원리를 담고 있다.

그림의 원점은 현재의 예측 상태를 나타낸다. 여기서 파란색 점은 관측된 혁신(Innovation, y)이다. 직관적으로는 관측된 정보가 위치한 방향, 즉 파란색 점선인 관측 축(Measurement Axis, H)을 따라 상태를 수정해야 할 것 같다. 하지만 그림의 보라색 화살표(Update Vector)는 관측 축을 벗어나 비스듬한 방향을 가리키고 있다.

이러한 방향의 비틀림을 만들어내는 핵심 요소들은 다음과 같다:

녹색 타원 (Prior Covariance P): 타원의 기울어진 모양은 상태 변수들 간의 상관관계(Correlation)를 나타낸다. 타원의 장축(Major Axis)은 현재 불확실성이 가장 큰 방향을 의미한다.
붉은 점선 벡터 (PHT): 이것이 업데이트의 방향이다. 관측 행렬의 전치(HT)는 관측 공간의 정보를 상태 공간으로 가져오지만, 공분산 행렬 P가 곱해지면서 그 벡터를 타원의 장축 방향(불확실성이 큰 방향)으로 회전시킨다.
주황색 선 (Ratio): 앞서 힐베르트 공간 섹션에서 구한 신뢰도 비율이다. 그림의 주황색 선(Ratio = 0.74)이 이를 나타낸다. 전체 이노베이션 중에서 노이즈를 제외한 신호의 비율만큼 벡터의 길이를 조절한다.

그림에서 최종 업데이트 벡터(보라색)인 Ky는 수학적으로 방향 성분과 스칼라 성분의 결합으로 분해하여 해석할 수 있다.

여기서 주목할 점은 업데이트 벡터(보라색)의 기울기다. 만약 단순한 추정기였다면 업데이트 벡터가 관측 축(주황색 선) 위에 누워 있었겠지만, 칼만 필터에서는 P 행렬의 선형 변환에 의해 벡터가 관측 축으로부터 비스듬하게 들어올려진다.

이러한 기하학적 구조 덕분에 칼만 필터는 직접 관측하지 않은 변수도 추정할 수 있다. 예를 들어, 위치만 측정하는 센서를 사용하더라도, 위치와 속도가 양의 상관관계(타원의 기울기)를 가진다면, 위치의 오차를 수정할 때 속도(PHT 방향)도 함께 수정하게 된다.

https://m.blog.naver.com/rlarlarlathgus/224108586059

[칼만 필터 - 10] 칼만 필터 업데이트의 기하학적 이해

이번 글은 칼만 필터의 업데이트 과정을 기하학적으로 설명한다. 먼저 힐베르트 공간(Hilbert Space)을 ...

blog.naver.com

VS Code로 논문/보고서 작성: LaTeX 환경 구축 및 보고서 템플릿

sohyunkim — Sat, 22 Nov 2025 19:39:48 +0900

Overleaf에서 논문을 많이들 작성하던데, 근데 나는 로컬에서 작성하는게 더 편하더라. 아래 환경 구축 방법을 설명할 텐데 도움이 되기를..

1. VS Code 설치 (에디터)

가장 먼저 코드 편집기인 VS Code가 필요하다.

아래 링크에서 운영체제(Windows, macOS, Linux)에 맞는 버전을 다운로드하고 설치하라.

Visual Studio Code - The open source AI code editor

Visual Studio Code redefines AI-powered coding with GitHub Copilot for building and debugging modern web and cloud applications. Visual Studio Code is free and available on your favorite platform - Linux, macOS, and Windows.

code.visualstudio.com

2. LaTeX 배포판 설치 (컴파일러)

VS Code는 편집기일 뿐, 실제로 LaTeX 코드를 PDF로 컴파일 해주는 프로그램이 필요하다. 운영체제별로 설치할 프로그램이 다른데, 윈도우 기준으로 설명한다.

TeX Live인데 표준이라고 하더라. 아래 링크에 들어가서 install-tl-windows.exe 파일을 다운 받아라.

Installing TeX Live over the Internet - TeX Users Group

Installing TeX Live over the Internet TeX Live 2025 was released on March 8, 2025. For typical needs, we recommend starting the TeX Live installation by downloading (these links go to mirrors) install-tl-windows.exe for Windows (~20mb), or install-tl-unx.t

www.tug.org

install-tl-windows.exe 파일이 다운되었다면, 기본 값으로 설치를 진행하라.

시간이 상당히 걸린다.

3. VS Code 확장 프로그램 설치

이제 VS Code와 LaTeX 엔진을 연결해 줄 확장 프로그램이 필요한데, 가장 유명한 LaTeX Workshop을 설치하자.

VS Code에 들어가서 단축키 Ctrl+Shift+X를 누르거나 좌측 사이드바의 확장으로 가라.

검색창에 LaTeX Workshop을 입력하고, James Yu가 작성자인지 확인하고 설치하라.

4. 설치 확인 및 테스트 (보고서 템플릿)

이건 내가 사용하는 과제/보고서 템플릿이다.

템플릿 코드는 네이버 블로그에 올려뒀다. 직접 컴파일 해서 환경 구축이 잘 되었는지 확인해 봐라.

VS Code로 논문/보고서 작성: LaTeX 환경 구축 및 보고서 템플릿

Overleaf에서 논문을 많이들 작성하던데, 근데 나는 로컬에서 작성하는게 더 편하더라. 아래 환경 구축 방...

blog.naver.com

[칼만 필터 - 9] 무향 칼만 필터(Unscented Kalman Filter, UKF) 가중치 유도 및 예측, 업데이트

sohyunkim — Sun, 9 Nov 2025 19:56:28 +0900

Unscented Kalman Filter(UKF)는 확장 칼만 필터(EKF)와 마찬가지로 비선형 시스템의 상태를 추정하기 위한 필터이다.

EKF가 비선형 함수를 선형화하기 위해 자코비안 행렬을 사용하는 것과 달리, UKF는 무향 변환(Unscented Transform, UT)를 사용한다.

무향 변환은 확률 분포를 대표하는 소수의 샘플 포인트(시그마 포인트)를 비선형 함수에 직접 통과시켜 변환 후의 평균과 공분산을 추정하는 방식이다.

UKF가 왜 EKF보다 비선형 시스템에서 더 좋은 성능을 보이는지 궁금하다면 다음 글을 참고하라.

[칼만 필터 - 8] 무향 칼만 필터(Unscented Kalman Filter, UKF)의 비선형 변환 오차 유도

비선형 시스템의 상태 추정 문제를 다룰 때, 가장 널리 사용되는 방법은 비선형 함수를 선형화하는 확장 칼...

blog.naver.com

이번 글에서는 앞서 유도된 조건을 만족하는 UKF 시그마 포인트의 가중치를 유도하고, 전체적인 UKF의 예측, 업데이트 수식을 알아보려 한다.

자세한 필기 내용은 글 마지막에 첨부되어 있다.

시그마 포인트 가중치 유도와 모멘트 매칭

UKF의 핵심은 시그마 포인트와 그에 해당하는 가중치를 잘 선택하여, 이들의 가중 평균과 가중 공분산이 원래 확률 분포의 평균 및 공분산과 일치하도록 만드는 것이다. 이를 모멘트 매칭(Moment Matching)이라고 한다.

해당 조건에 대한 자세한 설명은 비선형 변환 오차 유도 글에 정리되어 있다.

조건 1: 1차 모멘트(평균) 매칭
- 시그마 포인트들의 가중 평균이 원래 분포의 평균과 같아야 한다.

조건 2: 2차 모멘트 (공분산) 매칭
- 시그마 포인트들의 가중 공분산이 원래 분포의 공분산과 같아야 한다.

시그마 포인트 배치 및 가중치 계산

위 두 조건을 만족시키기 위해 시그마 포인트를 대칭적으로 배치하고 가중치를 계산한다. (n은 상태 변수의 차원)

1. 시그마 포인트의 대칭적 배치

평균값을 중심으로 첫 번째 시그마 포인트를 배치한다.

나머지 2n개의 포인트는 공분산 행렬 P의 촐레스키 분해 P = LLT를 통해 얻은 행렬 L의 열벡터를 이용하여 평균을 중심으로 대칭적으로 배치한다.

2. 가중치 계산

위 조건을 만족시키는 가중치는 다음과 같이 계산된다. λ는 스케일링 파라미터이며, α, β는 분포의 고차 모멘트 정보를 조절하는 파라미터이다. (자세한 유도는 글 마지막에 첨부된 파일에 있다.)
- 평균 계산용 가중치

공분산 계산용 가중치

이후 자세한 글은 네이버 블로그 참고해주세요.

https://m.blog.naver.com/rlarlarlathgus/224070129478

[칼만 필터 - 9] 무향 칼만 필터(Unscented Kalman Filter, UKF) 가중치 유도 및 예측, 업데이트

Unscented Kalman Filter(UKF)는 확장 칼만 필터(EKF)와 마찬가지로 비선형 시스템의 상태를 추정...

blog.naver.com

무향 칼만 필터(Unscented Kalman Filter, UKF)의 비선형 변환 오차 유도

sohyunkim — Sun, 2 Nov 2025 20:24:06 +0900

비선형 시스템의 상태 추정 문제를 다룰 때, 가장 널리 사용되는 방법은 비선형 함수를 선형화하는 확장 칼만 필터(Extended Kalman Filter, EKF)이다.

EKF에서 평균을 예측할 때는, 이전 단계의 평균값 E[x]을 비선형 함수에 직접 통과시켜 새로운 평균 f(E[x])을 계산한다. 그리고 공분산을 예측할 때는, 테일러 급수의 1차항(자코비안)을 사용하여 비선형 함수를 순간적인 직선으로 근사하여 공분산의 변화를 계산한다.

하지만 우리가 정말로 알아야 할 참 평균은 '평균을 비선형 변환한 값' f(E[x])이 아니라, '변환된 분포 전체의 평균' E[f(x)]이다. 비선형 함수에서는 이 두 값이 같지 않으며, 이것은 결국 평균 예측의 편향 오차가 되게 된다.

또한, 공분산을 계산하기 위한 선형화 과정 역시 비선형 함수의 곡률'Hessian'을 무시하므로, 변환된 분포의 실제 퍼짐 정도를 제대로 반영하지 못하는 공분산 예측 오차가 발생한다.

이처럼 시스템의 비선형성이 강해질수록 EKF는 평균과 공분산에서 발생하는 오차가 누적되어 필터의 성능 저하 또는 발산으로 이어질 수 있다.

다시 말해 EKF의 선형화를 통한 접근 방법은 비선형 변환 과정에서 발생하는 확률 분포의 복잡한 왜곡을 제대로 표현하지 못한다는 한계를 갖는다.

이를 극복하기 위해 등장한 것이 바로 무향 칼만 필터(Unscented Kalman Filter, UKF)이다. UKF는 함수를 근사하는 대신, 확률 분포 자체를 근사하는 형태의 접근법을 사용한다.

평균과 공분산을 대표하는 소수의 시그마 포인트를 뽑아, 이 점들을 실제 비선형 함수에 직접 통과시키고, 변환된 시그마 포인트들의 통계적 특성을 바탕으로 예측 분포를 계산하여 EKF가 고려하지 못한 곡률의 영향을 효과적으로 포착한다.

이번 포스팅은 UKF 시그마 포인트 생성 및 가중치의 공식 유도를 바탕으로 UKF가 어떻게 2차 항 오차까지 최소화하는지 살펴본다.

UKF의 동작 개념보다는 왜 UKF가 EKF보다 비선형 근사에 있어 뛰어난지를 수학적으로 보는데 목적이 있다.

평균 오

1. 참 평균의 테일러 급수 근사

비선형 함수 y=f(x)를 평균 bar{x} 주변에서 2차 항까지 테일러 급수 전개를 하면 다음과 같다.

이제 양변에 기댓값을 취하여 참 평균 E[y]를 근사한다.

여기서 J는 Jacobian, H는 Hessian 행렬이다. 우변의 0차, 1차 항을 다음과 같이 정리한다.

상수항은 기댓값을 그냥 빠져나오고, 1차 항의 경우 평균으로부터의 편차이니 기댓값은 0이 된다.

2차 항의 경우 Trace의 순환 속성을 사용하여 정리한다. (Trace는 첨부한 필기에 자세한 설명이 있다.)

여기서 Px는 x의 공분산이다. 이렇게 최종 참 평균의 테일러 급수 근사 수식 (1)를 얻는다.

2. UKF 추정 평균의 테일러 급수 근사

UKF의 추정 평균 \bar{y}_ukf는 각 시그마 포인트 χ(i)를 비선형 함수에 통과시킨 결과값 f(χ(i))에 평균 가중치 W(i)m를 곱하여 모두 더한 값이다.

전체 글은 네이버 블로그에서 확인해주세요.

https://m.blog.naver.com/rlarlarlathgus/224062212866

[칼만 필터 - 8] 무향 칼만 필터(Unscented Kalman Filter, UKF)의 비선형 변환 오차 유도

비선형 시스템의 상태 추정 문제를 다룰 때, 가장 널리 사용되는 방법은 비선형 함수를 선형화하는 확장 칼...

blog.naver.com

시계는 와치...[해밀턴 카키필드 머피 38]

sohyunkim — Thu, 30 Oct 2025 11:29:09 +0900

적당히 드레시하고 적당히 캐주얼한 시계를 찾고 있었다.

처음 눈독을 들이고 있던 시계는 티쏘 PRX mop와 해밀턴 카키 필드 메커니컬 흰 판이었으나, PRX는 직접 차 보니 40mm는 좀 크고 불편했고, 35mm는 작아서 애매하게 느껴졌다.

카키 필드 흰 판은 사이즈는 좋았지만, 손목에 올려보니 생각보다 너무 캐주얼해 보였다.

그러다 눈에 띈 해밀턴 카키 필드 머피 38mm.

가격은 141만원으로 예산을 넘어갔지만, 손목에 올려보니 너무 마음에 들었다.

알고 보니 인터스텔라 속에서 주인공 쿠퍼가 딸 머피에게 남겨준 시계로 등장했다고 한다. 모스부호로 메시지를 전달하던 그 시계다.

브레이슬릿 모델도 있으나, 나는 빈티지한 느낌의 검은 가죽 줄이 마음에 들었다.

들어간 무브먼트는 H-10으로 약간 해밀턴에서 국밥 같은 포지션이라고 하는데, 그래도 첫 시계가 오토매틱이라 잘 관리할 수 있을지 조금 걱정되긴 한다.

반사 방지 코팅이 없어 빛 반사가 심하다는 리뷰를 봤는데, 나는 그렇게 크게 느끼지 못했다. 연구실에만 박혀 있어서 그런가..

시계는 정말 추천한다. 11월에 해밀턴에서 가격을 올린다고 한다. 고민은 배송을 늦출 뿐이다.

시계는 와치...[해밀턴 카키필드 머피 38]

적당히 드레시하고 적당히 캐주얼한 시계를 찾고 있었다. 처음 눈독을 들이고 있던 시계는 티쏘 PRX mop...

blog.naver.com

대표사진 삭제

AI 활용 설정

사진 설명을 입력하세요.

그런데, 벌써 다른 시계가 또 눈에 들어온다...

SBTH 007 샴페인 다이얼인데, 갈색 가죽줄로 바꾸면 너무 이쁠 것같다. 날짜 창을 한자로 선택 가능한 것도 마음에 든다.

일본 내수용이라는데, 빅카메라에서 24,640엔에 판매 중이라고 한다. 대략 23만원이다. 일본에 가야 하나...

대표사진 삭제

AI 활용 설정

사진 설명을 입력하세요.

애플워치는 연락이 안 오니 쓸모도 없고 충전하기 귀찮기만 했다. 눈물이 난다.

다시 애플워치 찰 날을 기다리며 그동안은 머피랑 같이 지내야겠다...

시계는 와치...[해밀턴 카키필드 머피 38]

적당히 드레시하고 적당히 캐주얼한 시계를 찾고 있었다. 처음 눈독을 들이고 있던 시계는 티쏘 PRX mop...

blog.naver.com