<aside> 💡

To-do List

<할 일>

• [ ] Preliminaries 1 - diffusion sampling and inversion 파트 정리하기

  • sampling 공통 수식?인 ODE로 정리, 이 ODE가 step별 latent와 timestep t에 의존한다는 내용 정리
  • inversion의 경우 DDIM inversion 언급, 마찬가지로 step별 latent와 timestep t에 의존

• [ ] Preliminaries 2 정리하기

• [ ] PCA Trajectory Experiment 진행

  • 논문에서 표 만들어보기
  • magnitude까지 포함한 low-frequency 전체에 대해서 실험 수행 → graph 만들기

• [ ] (KTH 과제) DD2258 Assignment3 하기

• [x] Diffuson Latent가 PCA 공간 상에서 잘 projection되는 (PC1 >90%) 것에 대한 이론적 배경

• [x] low-frequency phase swapping에서 cosine/sigmoid를 사용했을 때 더 잘 되는 이유에 대한 이론적 배경

  → Diffusion model에서 SNR 활용한 논문 찾아보기, 해당 논문에서는 수학적으로 어떻게 더 설명했는지 찾아보기..?

</aside>

<PCA 관련 논문>

• Seeds of Structure: Patch PCA Reveals Universal Compositional Cues in Diffusion Models" (NeurIPS 2025)
  • 초기 노이즈의 **저주파 성분(Low-frequency components)**이 최종 생성 이미지의 전반적인 구도(Composition)와 구조를 결정한다는 사실을 밝혀냈습니다.
  • 서로 다른 모델이나 데이터셋이라도, 동일한 노이즈 시드(Seed)에서 유사한 구조적 속성이 나타나는 현상을 PCA를 통해 설명했습니다.
  • 이를 응용하여 모델 튜닝 없이도 생성 이미지의 레이아웃을 제어하는 'Patch PCA denoiser'를 제안했습니다.
• https://arxiv.org/html/2502.02225v1

** DDIM Inversion의 PCA 투영 이론 **

Meaning of PCA projection of DDIM inversion latent

** Scheduling 이론 **

SNR 기반 Gaussian Filter Sigma Scheduling

** Preliminaries - DDIM/DDPM sampling이 timestep t에 의존한다 **

DDPM/DDIM Sampling & Gaussian Noise? of Denoising Step

PCA 수식 & 증명

• swapping → 경로를 잡아주는 역할 (guide), GT 경로와 겹칠 수 있게끔
  • 적절하게 guide를 해주었기 때문에, swapping 이후에는 GT Trajectory와 매우 유사해짐
• PCA space 상에서 위치가 매우 유사한 (서로 다른 trajectory에 있는) 두 latent point에 대해, diffusion function f(latent)의 결과가 서로 다름 ⇒ f(latent)가 아닌, 또 다른 condition f(latent, condition)이 존재할 것 (condition → timestep)

내가 이론적으로 보이고자 하는 것: Diffusion model에서 low-frequency phase 교체가 가지는 함의