Modul 17

Variational autoencoder (VAE)

Bagian 3 · Deep generative model

AdvanceEvergreen

Istilah sulit di video ini dan artinya
Istilah	Arti
variational autoencoder	Model generatif yang memampatkan gambar menjadi distribusi peluang di ruang laten yang tertata, sehingga bisa dipakai untuk membuat gambar baru.
VAE	Singkatan dari variational autoencoder, model yang diperkenalkan Diederik Kingma pada 2013 dan menjadi komponen arsitektur modern seperti Stable Diffusion.
latent variable	Vektor tersembunyi berdimensi rendah yang menangkap ciri inti data, misalnya 10 sampai 100 angka yang mewakili satu gambar.
posterior	Distribusi peluang yang menunjukkan seberapa mungkin sebuah vektor laten z dihasilkan dari gambar x tertentu.
approximate posterior	Distribusi Gaussian q of z given x yang dipakai sebagai pengganti posterior asli yang tidak diketahui, dengan parameter yang dihitung encoder.
Gaussian	Distribusi peluang berbentuk lonceng dengan parameter rata-rata mu dan sebaran sigma, dipakai VAE untuk mewakili setiap gambar di ruang laten.
Kullback-Leibler divergence	Ukuran semacam jarak antara dua distribusi peluang, dipakai VAE untuk menjaga posterior pendekatan tetap mirip distribusi normal.
ELBO	Singkatan dari evidence lower bound, yaitu tujuan pelatihan VAE yang menggabungkan reconstruction loss dengan KL divergence sebagai regularisasi.
Bayes formula	Rumus peluang yang menghubungkan peluang bersyarat dengan distribusi gabungan dan marginal, dipakai video untuk menurunkan fungsi loss VAE.
reconstruction loss	Ukuran seberapa mirip gambar hasil rekonstruksi decoder dengan gambar aslinya, yang dalam VAE berupa L2 atau mean square error.
prior	Distribusi awal yang diasumsikan untuk variabel laten sebelum melihat data, yang dalam VAE dipilih berupa distribusi normal standar.
normal distribution	Distribusi peluang berbentuk lonceng simetris yang menjadi bentuk sasaran latent space VAE agar titik acak di dalamnya menghasilkan gambar masuk akal.

Video ini kembali ke akar generative AI dengan membahas variational autoencoder atau VAE, salah satu teknik dasar untuk membuat gambar yang belum pernah ada dan juga komponen penting dalam arsitektur modern seperti Stable Diffusion. Pertanyaan utamanya adalah mengapa autoencoder biasa tidak bisa menghasilkan gambar baru sendiri. Autoencoder memampatkan gambar menjadi vektor berisi 10 sampai 100 angka di latent space lalu merekonstruksinya, tetapi latent space-nya berantakan, sehingga mengambil titik acak atau titik di dekat gambar asli tidak menghasilkan gambar yang bermakna. VAE, yang diperkenalkan Diederik Kingma pada 2013 lewat makalah Auto-Encoding Variational Bayes, memecahkan masalah ini dengan membuat latent space yang tertata. Video ini penting bagi pembelajar karena menjelaskan dasar statistik Bayes yang dibutuhkan, seperti sampling, fungsi kepadatan peluang, ekspektasi, distribusi gabungan, marginalisasi, dan peluang bersyarat, lalu menghubungkannya langkah demi langkah dengan cara kerja VAE.

VAE mengasumsikan distribusi laten berbentuk distribusi normal dan mendekati posterior yang tidak diketahui dengan Gaussian q of z given x, yang parameternya mu dan sigma diperkirakan oleh encoder. Tujuan pelatihannya adalah ELBO, gabungan reconstruction loss berupa L2 atau mean square error dengan Kullback-Leibler divergence yang memaksa latent space mengikuti distribusi normal. Agar backpropagation bisa melewati proses sampling, dipakai reparameterization trick dengan variabel acak epsilon, sehingga jaringan bisa dilatih penuh dengan optimizer seperti Adam. Dalam demo angka tulisan tangan, latent space menyebar menjadi bentuk normal setelah dua atau tiga epoch, dan VAE bisa membuat angka baru, variasi dari gambar acuan, serta campuran mulus dua gambar lewat interpolasi. Kelemahannya, hasil gambar cenderung buram, terlihat pada dataset wajah selebriti CelebA, kalah tajam dari GAN dan diffusion model, serta tidak bisa dikondisikan. Varian seperti conditional VAE, beta VAE, dan vector quantized VAE mencoba mengatasinya, dan bagian bonus menurunkan ELBO memakai Jensen's inequality.

Kata kunci

variational autoencoder
VAE
latent space
ELBO

Istilah

Arti

variational autoencoder

Model generatif yang memampatkan gambar menjadi distribusi peluang di ruang laten yang tertata, sehingga bisa dipakai untuk membuat gambar baru.

VAE

Singkatan dari variational autoencoder, model yang diperkenalkan Diederik Kingma pada 2013 dan menjadi komponen arsitektur modern seperti Stable Diffusion.

latent variable

Vektor tersembunyi berdimensi rendah yang menangkap ciri inti data, misalnya 10 sampai 100 angka yang mewakili satu gambar.

posterior

Distribusi peluang yang menunjukkan seberapa mungkin sebuah vektor laten z dihasilkan dari gambar x tertentu.

approximate posterior

Distribusi Gaussian q of z given x yang dipakai sebagai pengganti posterior asli yang tidak diketahui, dengan parameter yang dihitung encoder.

Gaussian

Distribusi peluang berbentuk lonceng dengan parameter rata-rata mu dan sebaran sigma, dipakai VAE untuk mewakili setiap gambar di ruang laten.

Kullback-Leibler divergence

Ukuran semacam jarak antara dua distribusi peluang, dipakai VAE untuk menjaga posterior pendekatan tetap mirip distribusi normal.

ELBO

Singkatan dari evidence lower bound, yaitu tujuan pelatihan VAE yang menggabungkan reconstruction loss dengan KL divergence sebagai regularisasi.

Bayes formula

Rumus peluang yang menghubungkan peluang bersyarat dengan distribusi gabungan dan marginal, dipakai video untuk menurunkan fungsi loss VAE.

reconstruction loss

Ukuran seberapa mirip gambar hasil rekonstruksi decoder dengan gambar aslinya, yang dalam VAE berupa L2 atau mean square error.

prior

Distribusi awal yang diasumsikan untuk variabel laten sebelum melihat data, yang dalam VAE dipilih berupa distribusi normal standar.

normal distribution

Distribusi peluang berbentuk lonceng simetris yang menjadi bentuk sasaran latent space VAE agar titik acak di dalamnya menghasilkan gambar masuk akal.