• Deep Convolutional Inverse Graphics Network

    WHY? Image의 representation을 interpretable하게 만든다면 원하는 이미지를 생성해낼 수 있을 것이다. WHAT? 이를 위하여 Variational Autoencoder모델에 encoder와 decoder를 각각 convolution과 transpose convolution으로 구성하여 학습한다. 학습 방법은 다음과 같다. 우리가 학습하려는 특성에 대응하는 을 고른다. 우리가 학습하려는 특성의 변화만 가지고 있는 데이터로부터 샘플링한다. 데이터를 인코더에 통과시켜 z를 구한다. 데이터들의 z의 평균을...


  • Semi-supervised Learning with Deep Generative Models

    WHY? Semi-supervised learning이란 적은 양의 labeled 데이터로 부터 정보를 효과적으로 generalize하여 많은 양의 unlabeled 데이터의 정보를 활용하고 이를 통하여 모델의 성능을 향상시키는 학습을 말한다. WHAT? 논문에서는 세가지 모델을 제안한다. M1은 latent feature discriminative model로 모든 데이터들에 대하여 VAE를 학습시킨 후 labeled data들의 latent variable로 discriminator를 학습하여 unlabeled data를 labeling하는 것이다....


  • Variational Inference of Disentangled Latent Concepts from Unlabeled Observations

    WHY? Disentanling과정은 기본적으로 x내에서 독립적인 요소를 찾아 각각 다른 z로 나누는 작업이다. 이를 위하여 z의 prior를 independent Gaussian(N(1,0))로 간주하여 근사하거나(Beta-VAE) Batch내의 z의 값을 permutation하여 adversarial training하는 방법으로 독립을 유도하였다(FVAE). 하지만 Beta-VAE는 모든 관측치의 분포를 N(1,0)으로 강제하여 관측치의 차이에 덜 민감하게 만들어 reconstruction의 성능이 떨어진다. WHAT? DIP-VAE(Disentangled Inferred Prior VAE)는 encoder의...


  • The Florida Project

    평점: 4 영화가 무언가 주장하려 했다면 반박을 했을텐데 보여주기만 하니 느낄 수 밖에 없었다. 눈부신 배경, 비참한 상황, 아이의 웃음, 고함 소리 등 극적으로 대조되는 장면들이 영화 끝나고도 눈과 귀에 멤돈다.


  • [Pytorch] DCGAN

    Deep Convolutional Generative Adversarial Network를 Pytorch로 구현 https://github.com/Lyusungwon/pytorch/tree/master/dcgan Reference https://github.com/znxlwm/pytorch-MNIST-CelebA-GAN-DCGAN Note Mode-collapse문제는 해결 Transpose convolution의 크기 계산이 까다로웠다 생각보다 숫자 모양이 나오기가 어렵다. Model의 깊이, Loss, init, activation 모두 잘 맞추어 주는 것이 중요한 것 같다. Result Image Loss