sohyunkim 님의 블로그

[연속 상태 추정 - 4] CANN의 베이지안 추정기로의 확장: 칼만 필터와의 수학적 매핑

오랜만에 블로그를 작성한다. 별건 아니고, 내 석사 학위 연구가 KAIST Breakthroughs에 올라왔다. 나는 대표 그림이 마음에 드는데,,, 교수님은 별로라고 하신다. All topics | KAIST Breakthroughs웹진을 추가 또는 삭제 하실 수 있습니다.breakthroughs.kaist.ac.kr Nature Communications에 투고해서 리비전 중인데.. HomeResearch Square is a preprint platform that makes research communication faster, fairer, and more useful.www.researchsquare.com힘들다.. 붙으면 소원이 없겠다. [연속 상태 추정 - 3]까지의 내용이 위 논문의 M..

이전 포스팅에서는 포커-플랑크 방정식(FPE)의 복잡한 해를 효율적으로 구하기 위해, '딱 한 점'에서 출발하는 기본 해인 '전이 커널(Transition Kernel)'의 개념을 설명했다.또한, 선형 중첩의 원리를 적용하면 임의의 초기 분포가 미래에 어떻게 퍼져나가는지를 단 하나의 적분식(베이즈 예측 과정)으로 표현할 수 있음을 확인했다. 하지만, 연속 시간 상태 추정(Kalman-Bucy Filter 등) 알고리즘에 이를 실제로 사용하려면, 커널의 닫힌 해를 수학적으로 찾아내야만 한다. 따라서 이번 포스팅에서는 공간(x)과 시간(t)에 대한 다중 미분이 섞인 편미분 방정식을 풀어 전이 커널의 해를 찾을 것이다. (네이버 포스팅 환경에서 추정 상태 hat을 작성할 수 없다. hat{p} 참고바란다.)..

지난 포스팅에서는 개별 입자의 미시적 무작위 움직임(SDE)이 어떻게 거시적인 확률 분포의 흐름을 지배하는 편미분 방정식, 즉 포커-플랑크 방정식(FPE, Fokker-Planck Equation)으로 연결되는지 이토 미적분학을 통해 유도하였다. FPE의 본질은 확률 분포를 시간에 따라 진화시키는 규칙 그 자체이다. 해당 규칙에 현재 상태 확률 분포를 초기 조건으로 넣으면, 엄밀한 FPE의 편미분 방정식에 따라 미래 시점 t에서의 예측 분포를 얻을 수 있다. 하지만, 초기 분포로 사용되는 분포는 매번 다양한 형태로 주어진다. 그때 마라 편미분 방정식을 푸는 것은 비효율적이다. 이를 해결하기 위해 전이 커널과 선형 중첩의 원리를 사용한다. 포커-플랑크 방정식과 일반 해의 한계 시스템의 동역학을 반영하여, ..

일반적인 상태 추정 알고리즘에서는 주로 Discrete-time 기반의 칼만 필터를 적용하여, 이전 상태의 불확실성에 노이즈 공분산을 단순히 더해주는 방식(P_k+1=FP_kF^T+Q)으로 예측 단계를 수행한다. 그러나 실제 물리 세계의 시스템은 연속적인 시간 흐름 속에서 동역학적 변화를 겪는다. 따라서 시스템의 상태 확률 분포가 구체적으로 어떤 물리 법칙에 의해 확산되고 진화하는지 그 원리를 수학적으로 확인할 필요가 있다. 이 연속 시간 칼만 필터(Kalman-Bucy Filter)의 Prediction 단계를 지배하는 핵심 수학적 모델이 바로 포커-플랑크 방정식(Fokker-Planck Equation, FPE)이다. 이번 포스팅에서는 개별 입자의 미시적 확률 움직임을 나타내는 확률 미분 방정식(S..

결국 눈에 아른거리던 sbth007을 샀다.샴페인 색상의 다이얼과 칼침, 그리고 한자로 된 날짜 창이 계속 눈에 맴돌았다. 구매는 네이버 스마트 스토어 중 후기가 많은 곳을 이용했다. 가격은 관세 포함 약 26만 원 정도였다. 통관 서류를 보니 145달러로 신고되어 있었다. 나중에 세관에 걸리면 구매자 책임이라던데... 결국 낮은 가격으로 신고해서 관세는 안 나오겠지만, 차액은 판매자가 챙기는게 아닌가 싶다. 물론 추측일 뿐이다. 가성비가 좋다. 특히 사파이어 글라스가 적용된 점이 만족스럽다. 미네랄 글라스에 생기는 기스를 경험하고 나니, 사파이어 글라스가 확실히 장점으로 느껴졌다. 케이스는 37.4mm, 럭투럭은 42.9mm이다. 아래 사진은 해밀턴 머피 38과 비교한 모습이다.검정 가죽 스트랩으로 ..

확률론이나 칼만 필터, EM 알고리즘 등을 공부하다 보면, 결국 핵심은 '두 확률 분포의 차이와 유사도를 어떻게 평가할 것인가'로 이어진다는 것을 알게 된다. 최근에 공부하던 힐베르트 공간(Hilbert Space)에서 바타차리아 거리(Bhattacharyya Distance)를 해석할 수 있음을 알게 되어, 이와 관련된 내용으로 글을 작성한다.바타차리아 거리(Bhattacharyya Distance) Bhattacharyya 거리는 두 확률 분포의 겹침 정도를 측정하여 분리성을 판단하는 데 주로 사용된다. 먼저 Bhattacharyya Coefficient (BC)를 다음과 같이 정의한다.​이 계수를 이용하여 Bhattacharyya 거리는 다음과 같이 정의한다.​수식을 살펴보면, P(x)와 Q(x)가..

이번 글은 칼만 필터의 업데이트 과정을 기하학적으로 설명한다.​먼저 힐베르트 공간(Hilbert Space)을 이해해야 한다. 칼만 필터의 수식은 복잡한 행렬 연산으로 이루어져 있는데, 이 수식들을 힐베르트 공간이라는 기하학적 관점에서 바라보면, 직관적으로 해석이 가능해진다.​힐베르트 공간을 전부 설명하지는 않을 것이다. 가장 중요한 내용은 확률변수(Random Variable)를 Vector로 취급한다는 것이다.​즉 PDF가 힐베르트 공간에서는 벡터로 해석이 되고, 통계학적 내용들이 기하적 세상에서 다음과 같이 해석된다.확률변수 (x) → 벡터 표준편차 (σx) → 벡터의 길이 (화살표가 길수록 불확실하다)공분산 (E[XY]) → 내적 (두 화살표의 방향이 얼마나 비슷한가) 독립성 (Independe..

Overleaf에서 논문을 많이들 작성하던데, 근데 나는 로컬에서 작성하는게 더 편하더라. 아래 환경 구축 방법을 설명할 텐데 도움이 되기를..1. VS Code 설치 (에디터) 가장 먼저 코드 편집기인 VS Code가 필요하다.아래 링크에서 운영체제(Windows, macOS, Linux)에 맞는 버전을 다운로드하고 설치하라. Visual Studio Code - The open source AI code editorVisual Studio Code redefines AI-powered coding with GitHub Copilot for building and debugging modern web and cloud applications. Visual Studio Code is free and av..

Unscented Kalman Filter(UKF)는 확장 칼만 필터(EKF)와 마찬가지로 비선형 시스템의 상태를 추정하기 위한 필터이다.EKF가 비선형 함수를 선형화하기 위해 자코비안 행렬을 사용하는 것과 달리, UKF는 무향 변환(Unscented Transform, UT)를 사용한다.무향 변환은 확률 분포를 대표하는 소수의 샘플 포인트(시그마 포인트)를 비선형 함수에 직접 통과시켜 변환 후의 평균과 공분산을 추정하는 방식이다.UKF가 왜 EKF보다 비선형 시스템에서 더 좋은 성능을 보이는지 궁금하다면 다음 글을 참고하라. [칼만 필터 - 8] 무향 칼만 필터(Unscented Kalman Filter, UKF)의 비선형 변환 오차 유도비선형 시스템의 상태 추정 문제를 다룰 때, 가장 널리 사용되는 ..

비선형 시스템의 상태 추정 문제를 다룰 때, 가장 널리 사용되는 방법은 비선형 함수를 선형화하는 확장 칼만 필터(Extended Kalman Filter, EKF)이다.​EKF에서 평균을 예측할 때는, 이전 단계의 평균값 E[x]을 비선형 함수에 직접 통과시켜 새로운 평균 ​f(E[x])을 계산한다. 그리고 공분산을 예측할 때는, 테일러 급수의 1차항(자코비안)을 사용하여 비선형 함수를 순간적인 직선으로 근사하여 공분산의 변화를 계산한다.​하지만 우리가 정말로 알아야 할 참 평균은 '평균을 비선형 변환한 값' f(E[x])이 아니라, '변환된 분포 전체의 평균' E[f(x)]이다. 비선형 함수에서는 이 두 값이 같지 않으며, 이것은 결국 평균 예측의 편향 오차가 되게 된다.​또한, 공분산을 계산하기 위한..