| Istilah | Arti |
|---|---|
| diffusion models | Model AI pembuat gambar yang dilatih dengan menambahkan noise ke gambar lalu belajar menghapusnya langkah demi langkah, yang menjadi motivasi utama video ini. |
| noise | Variasi acak pada nilai piksel yang merusak sinyal asli gambar, misalnya bintik atau butiran yang muncul saat memotret di cahaya redup. |
| manifold | Struktur berdimensi rendah di dalam ruang semua kemungkinan gambar tempat gambar yang bermakna, seperti angka, berkumpul. |
| Gaussian noise | Jenis noise yang ditambahkan merata ke setiap piksel dengan nilai acak mengikuti distribusi normal, dan kadarnya diatur oleh standar deviasi sigma. |
| MMSE | Singkatan minimum mean squared error, yaitu estimator yang memberi rekonstruksi rata-rata terbaik dan ditiru oleh jaringan yang dilatih dengan loss MSE. |
| denoising autoencoder | Jaringan saraf dengan encoder dan decoder yang menerima gambar ber-noise lalu dilatih untuk mengeluarkan versi bersih dari gambar tersebut. |
| score | Gradient dari logaritma fungsi densitas peluang terhadap data, yang menunjuk ke arah wilayah data paling padat dan lebih mudah diperkirakan daripada densitasnya. |
| data distribution | Sebaran peluang yang mengatur seperti apa data asli muncul, yang menurut video menjadi kabur ketika gambar ditambahi Gaussian noise. |
| squared error | Kuadrat selisih antara keluaran jaringan dan gambar bersih, dipakai sebagai loss untuk melatih denoising autoencoder. |
| posterior | Distribusi peluang yang menyatakan seberapa mungkin sebuah gambar bersih bila diketahui gambar ber-noise-nya, dan rata-ratanya adalah keluaran estimator MMSE. |
| density | Fungsi yang menunjukkan seberapa besar peluang data muncul di suatu titik, yang integralnya harus bernilai satu sehingga sulit dihitung di dimensi tinggi. |
| Gaussian | Distribusi normal berbentuk lonceng yang nilainya mengumpul di sekitar rata-rata, dipakai di video untuk memodelkan noise dan contoh medan vektor score. |
Video dari kanal Deepia ini menjelaskan apa yang sebenarnya dipelajari denoising autoencoder, dan mengapa tugas sederhana menghapus noise dari gambar bisa menjadi dasar diffusion models yang kini menghasilkan banyak konten AI. Diffusion models dilatih dengan menambahkan noise ke gambar lalu belajar menghapusnya langkah demi langkah. Kuncinya ada pada sebuah rumus dari surat tahun 1956 yang tidak pernah diterbitkan secara resmi tetapi sangat berpengaruh, yaitu rumus Tweedie. Video membangun pemahaman secara bertahap, mulai dari intuisi tentang manifold sampai penurunan matematis yang ketat, sehingga penonton tahu persis operasi apa yang ditiru jaringan saraf ketika membersihkan gambar.
Video dimulai dengan jenis noise, misalnya speckle pada ultrasound dan noise Poisson pada CT scan, lalu fokus pada Gaussian noise yang bersifat aditif dan kadarnya diatur oleh standar deviasi sigma. Denoising autoencoder dilatih dengan pasangan gambar bersih dan gambar ber-noise, memakai squared error terhadap gambar bersih. Secara intuitif, gambar bermakna seperti angka berukuran 28 kali 28 piksel berada di manifold berdimensi rendah, dan jaringan memproyeksikan gambar ber-noise kembali ke sana. Secara teori, meminimalkan MSE berarti meniru estimator MMSE, yang sama dengan rata-rata distribusi posterior. Video lalu memperkenalkan score sebagai gradient log density, dan menunjukkan bahwa menambah noise sama dengan mengaburkan distribusi data. Rumus Tweedie, dari surat Maurice Tweedie kepada Herbert Robbins, mengaitkan rata-rata posterior dengan score distribusi ber-noise, sehingga jaringan sebenarnya mendorong input ke wilayah berdensitas tinggi. Video juga memuat sponsor Brilliant.
Kata kunci
- manifold
- MMSE
- denoising autoencoder
- score
- Menjelaskan mengapa model difusi yang hanya dilatih untuk menghilangkan noise dari gambar bisa menghasilkan gambar baru, lewat rumus yang diperkenalkan dalam sebuah surat tahun 1956.
- Menguraikan gambar bermakna yang menempati sebagian kecil ruang piksel (manifold), denoiser yang melatih jaringan dengan MSE hingga mendekati penaksir MMSE, dan kaitannya dengan score dari distribusi data.
- Menjelaskan hasil probabilitas tentang dua variabel independen dan hubungan denoising autoencoder dengan score.
Tulis catatan pribadimu untuk video ini. Catatan tersimpan di akunmu dan bisa dibuka dari perangkat mana pun.