끄적거림

논문 링크 : https://arxiv.org/abs/1312.6114 Auto-Encoding Variational Bayes How can we perform efficient inference and learning in directed probabilistic models, in the presence of continuous latent variables with intractable posterior distributions, and large datasets? We introduce a stochastic variational inference and learning arxiv.org 해당 논문은 워낙에 유명해서 이미 영상이나, 블로그 등으로 설명이 아주 자세하게 나와있다. 그 중에서 괜찮은..

cold posterior 관련 논문을 찾다가 발견한 리서치? 느낌의 논문이라 볼 수 있다. 이 paper에는 cold posterior의 내용이 아주 잠깐 스쳐 지나가게 나오긴 하지만, 베이지안의 철학을 이어받는 논문이라 볼 수 있다. 스위스 취리히 대학의 CS학과에서 작성되었으며, 2021년 NeurIPS의 Bayesian Deep Learning 워크샵에 게재된 내용이다. 해당 워크샵에서 한해의 베이지안에 대해 전반적으로 다루고 있으니 베이지안에 관심이 있으신 분들이면 한 번쯤 사이트에 접속해보길 권해드린다. 논문 링크 : https://arxiv.org/pdf/2105.06868.pdf 0. Abstract While the choice of prior is one of the most criti..

https://towardsdatascience.com/variational-autoencoder-demystified-with-pytorch-implementation-3a06bee395ed Variational Autoencoder Demystified With PyTorch Implementation. This tutorial implements a variational autoencoder for non-black and white images using PyTorch. towardsdatascience.com

https://arxiv.org/pdf/1611.02648.pdf 간단히 설명하자면, 기존의 auto-encoder는 다차원 데이터를 적은 차원의 데이터로 압축시키는 것을 의미하고, variatioinal auto-encoder는 그 압축시킨 데이터를 일종의 확률로써 생각하여 정규분포로 나타낸다. 이 논문의 핵시 contribution은 그 압축시킨 distribution을 mixture model로 fitting하여 이를 clustring에 이용한 것이다. 해당 컨셉을 나 혼자 생각해서 "아 이거다!" 했는데, 찾아보니 역시 존재하는 아이디어였다ㅠ Abstract We study a variant of the variational autoencoder model (VAE) with a Gaussian ..