홍석쓰 블로그

이전 포스트에서 왜 Generative Models의 정의가 P(X,Y)를 구하는 게 아니라 왜 P(X)를 구한 후 샘플링하는 것이 목적이라고 하는 지 이해가 안 간다고 하였다. 여러 VAE를 설명하는 해외/국내 블로그들이 시작할 때 P(X)가 목표다 라고 하는데, 실제로는 Given Y에 대해 가장 그럴듯한 데이터 X를 생성하는 것이 목표이므로 P(X,Y)가 목표라고 생각한다. 곰곰이 생각해본 결과, 결과적으로 Generative Models 중 하나인 VAE가 결국 P(Y|X), P(X,Y), P(X|Y)를 모두 학습하기 때문에 P(X) / 데이터의 진정한 분포를 학습한다고도 할 수 있는 것 같다. GAN이 Implicit하게 P(X)를 구한다는 표현은 P(Y|X), P(X,Y), P(X|Y)를 따로..

머신러닝 모델 혹은 그 이전에 확률 모델 알고리즘에는 크게 Discriminative Model과 Generative Model이 있다. (머신러닝, 확률 분야의 경계가 명확한 지는 모르겠다) Discriminative Model은 statistical classfication(통계적 분류) 중 하나로 input data X가 있을 때 Y를 바로inference(추론)해내는 알고리즘이다. 바꿔말하면 P(Y|X)를 바로 구한다. 대부분의 Supervised machine learning이 Discriminative Model에 속한다. Discriminative models, also referred to as conditional models, are a class of models used in sta..