| Istilah | Arti |
|---|---|
| Tweedie's formula | Rumus yang menghubungkan rata-rata hasil bersih dari sebuah denoiser dengan score data bernoise, sehingga denoiser bisa dipakai untuk menghitung arah menuju data asli. |
| posterior mean | Rata-rata dari semua kemungkinan gambar bersih bila diketahui gambar bernoisenya, yang menurut video adalah hal yang sebenarnya didekati oleh denoiser terlatih. |
| score | Gradien dari log-probabilitas data yang bekerja seperti kompas, menunjukkan arah menuju daerah dengan peluang data paling tinggi di ruang gambar. |
| Langevin algorithm | Metode membuat sampel baru dengan berulang kali melangkah mengikuti score sambil menambahkan sedikit noise acak agar hasilnya tidak berkumpul di satu titik. |
| denoiser | Jaringan saraf yang dilatih untuk menghilangkan noise dari gambar, dan dalam video ini dipakai untuk memperkirakan score distribusi data. |
| Gaussian noise | Gangguan acak yang nilainya mengikuti distribusi normal berbentuk lonceng, ditambahkan ke gambar saat pelatihan dan di setiap langkah Langevin algorithm. |
| DeepInverse | Pustaka Python yang menyediakan model denoising siap pakai, dipakai di video untuk mengatur tingkat noise dan memilih arsitektur DRUNet. |
| MNIST | Kumpulan data populer berisi gambar angka tulisan tangan, dipakai di video untuk melatih denoiser dan mencoba membuat angka baru. |
| PyTorch | Pustaka Python yang banyak dipakai untuk membangun dan melatih jaringan saraf, digunakan di video untuk menulis loop pelatihan denoiser. |
| score matching | Teknik melatih model agar bisa memperkirakan score dari distribusi data tanpa mengetahui rumus kepadatan aslinya, kini umumnya lewat pelatihan denoising. |
| density | Fungsi yang menunjukkan seberapa besar peluang suatu titik data muncul, dengan nilai tinggi di sekitar tempat data asli berkumpul. |
| autoencoder | Jaringan saraf yang menerima masukan lalu menghasilkan versi rekonstruksinya, dipakai di video sebagai denoiser yang mengubah gambar bernoise menjadi gambar bersih. |
Video dari kanal Deepia ini menjelaskan bahwa denoiser berbasis deep learning tidak hanya belajar membersihkan gambar yang penuh noise, tetapi juga mempelajari struktur distribusi data di baliknya. Pembahasan dimulai dari hasil penting bahwa denoiser yang dilatih dengan meminimalkan selisih kuadrat sebenarnya mendekati posterior mean, yaitu rata-rata dari semua kemungkinan gambar bersih untuk satu gambar bernoise. Lewat Tweedie's formula, posterior mean ini terhubung langsung dengan score, yaitu gradien log-probabilitas data bernoise. Artinya, denoiser bisa dipakai sebagai semacam kompas yang selalu menunjuk ke daerah tempat data asli paling mungkin berada. Pemahaman ini penting karena menjadi fondasi cara kerja model generatif modern, termasuk diffusion models yang akan dibahas di video berikutnya.
Secara konkret, video ini menurunkan Tweedie's formula langkah demi langkah dan memberi contoh satu dimensi, di mana posterior mean sama dengan estimasi MAP untuk distribusi Gaussian tetapi tidak lagi sama untuk campuran beberapa Gaussian. Video juga menceritakan sejarah score matching, dari metode Aapo Hyvärinen tahun 2005 yang mahal untuk data berdimensi tinggi, hingga denoising score matching dari Pascal Vincent tahun 2010 yang kemudian dipopulerkan Yang Song. Langevin algorithm diperkenalkan sebagai gradient ascent mengikuti score ditambah sedikit Gaussian noise agar sampel tetap beragam. Demonya memakai PyTorch, DeepInverse, dataset MNIST, arsitektur DRUNet, dan loss MSE. Bila dimulai dari gambar angka lima bernoise, hasilnya terlalu mirip gambar asli, sedangkan bila dimulai dari noise murni hasilnya hanya bintik hitam putih. Penyebabnya, score tidak akurat di daerah tanpa sampel, dan menambah noise saat pelatihan menimbulkan trade-off yang akan diselesaikan oleh diffusion models.
Kata kunci
- Tweedie's formula
- posterior mean
- score
- Langevin algorithm
- Menjelaskan bahwa denoiser deep learning juga mempelajari struktur distribusi data, dan hubungan ini menjadi eksplisit lewat rumus Tweedie yang menghubungkan posterior mean dengan score dari distribusi data berderau.
- Membahas score sebagai gradien log-densitas yang menunjuk ke area data berdensitas tinggi, algoritma Langevin untuk menghasilkan data baru, serta kelemahan di wilayah berdensitas rendah yang diatasi oleh model difusi (video berikutnya).
- Melatih denoiser di PyTorch dengan dataset MNIST dan pustaka DeepInverse.
Tulis catatan pribadimu untuk video ini. Catatan tersimpan di akunmu dan bisa dibuka dari perangkat mana pun.