Diffusion Models: DDPM 수식 유도와 응용 (DDIM, LDM)
Diffusion model의 직관(forward/reverse process)부터 ELBO 기반 DDPM loss의 수식 유도, 그리고 DDIM·Diffusion-GAN·LDM 같은 후속 모델들까지 정리한 노트.
Chaehyeon Lee
Diffusion model의 직관(forward/reverse process)부터 ELBO 기반 DDPM loss의 수식 유도, 그리고 DDIM·Diffusion-GAN·LDM 같은 후속 모델들까지 정리한 노트.
생존분석에서 관심 event 외에 다른 event가 같이 작동할 때, 그 영향을 보정하는 competing risk 분석. Cause-specific model과 Fine-Gray sub-distribution model의 차이, 그리고 matching 선택지 정리.
베이지안 추론에서 사후 분포가 닫힌 형태로 구해지지 않을 때 쓰는 Gibbs sampling을, 정규-역감마 모형 예제로 차근차근 유도하고 알고리즘으로 정리한 노트.
곡선의 접선을 따라 해(또는 극점)에 점차 접근하는 두 반복법: Newton-Raphson과 gradient method. 같은 예제 y = x²로 두 업데이트 식을 비교한다.
귀무가설 vs 대립가설 영역 각각에서 가능도함수의 최댓값 비를 검정 통계량으로 쓰는 LRT. 정의·기각역의 의미·정규모형 평균 검정 예제(결국 t-검정으로 귀결되는 과정)까지 정리.
원래 분포 f(x)에서 샘플링이 어렵거나 비효율적일 때, 다른 분포 φ(x)에서 샘플을 뽑고 가중치 f(x)/φ(x)로 보정해 기댓값을 계산하는 기법. Monte Carlo 기본형부터 importance sampling까지 정리.
분포 f(x)에서 직접 샘플을 뽑기 어려울 때 사용하는 inverse transform sampling. CDF의 역함수 F⁻¹와 균등 분포 U(0,1)을 이용해 임의의 분포를 샘플링하는 방법과 그 기하학적 직관을 정리한다.
표본 수가 작거나 정규분포를 따르지 않을 때 쓰는 비모수 가설 검정. '두 표본이 같은 분포에서 왔다면 섞어도 분포가 같아야 한다'는 직관에서 출발하는 permutation test의 절차와 p-value 산출 방법을 정리한다.
충분통계량 S에 대해 비편향추정량 T를 조건부 기댓값 f(S) = E(T|S)로 바꾸면 분산이 감소한다는 정리. 정의와 전분산 분해 기반 증명을 정리한다.