| Istilah | Arti |
|---|---|
| deep learning | Pendekatan machine learning yang memakai jaringan saraf bertingkat dan optimisasi gradien, dan menjadi inti kursus ini. |
| machine learning | Cabang kecerdasan buatan yang membuat komputer belajar pola dari data, bukan dari aturan yang ditulis secara manual. |
| perceptron | Model jaringan saraf paling awal dari tahun 1958 yang menjumlahkan input berbobot lalu melewatkannya ke fungsi non-linear. |
| non linearity | Fungsi seperti ReLU yang diletakkan di antara lapisan agar jaringan bisa mempelajari batas keputusan yang tidak lurus. |
| layers | Tingkatan transformasi dalam jaringan, di mana makin banyak lapisan menghasilkan representasi yang makin abstrak. |
| gradient | Arah perubahan fungsi loss terhadap parameter, yang dipakai untuk menggeser bobot sedikit demi sedikit agar kesalahan mengecil. |
| neural networks | Kelas arsitektur machine learning yang tersusun dari tumpukan transformasi linear dan non-linearitas per titik. |
| parameterized | Bagian program yang dibuat dengan parameter dapat dilatih, sehingga optimisasi gradien bisa menyetelnya. |
| final project | Proyek riset akhir yang menyumbang 35 persen nilai, berbentuk postingan blog eksperimen dan visualisasi yang boleh dikerjakan berdua. |
| weights | Nilai parameter yang dikalikan dengan input di tiap lapisan, dan disetel selama pelatihan agar output sesuai data latih. |
| vector | Susunan angka satu dimensi yang menjadi input dan output setiap lapisan, dan dalam kuliah ini digambarkan sebagai vector in, vector out. |
| function | Pemetaan dari input ke output yang dipelajari jaringan, dan seluruh model dipandang sebagai fungsi bertumpuk dari input ke output. |
Video ini adalah kuliah pembuka MIT (Lec 01) untuk kursus deep learning tingkat pascasarjana yang dibawakan Sara Beery. Ia membuka dengan pertanyaan mengapa deep learning penting, karena teknik ini sudah menyentuh hampir semua bidang, mulai dari generasi teks dan gambar, rekonstruksi 3D, hingga pemodelan fenomena kompleks seperti iklim dan ekosistem. Menurutnya deep learning punya dua unsur: jaringan saraf yang tersusun dari tumpukan transformasi linear dan non-linearitas, serta differential programming, yaitu pemrograman dengan parameter yang disetel oleh optimisasi gradien. Ia juga menelusuri sejarah bidang ini, dari perceptron tahun 1958, kritik Minsky dan Papert, backpropagation tahun 1986, hingga AlexNet tahun 2012 yang memanfaatkan GPU dan dataset ImageNet. Penonton perlu tahu bahwa kelas ini bukan pengantar dasar, melainkan kursus lanjutan yang berasumsi peserta sudah memahami gradient descent dan perceptron.
Dari sisi isi, kursus ini terdiri atas lima problem set yang menyumbang 65 persen nilai dan proyek akhir 35 persen, berupa postingan blog eksperimen dan visualisasi yang boleh dikerjakan dua orang. Kebijakan AI disamakan dengan rekan manusia: boleh diajak diskusi, tetapi tidak boleh diminta mengerjakan soal. Bagian teknis dimulai dari perceptron yang bisa melakukan klasifikasi linear, tetapi fungsi step tidak bisa dilatih karena gradiennya nol di hampir semua titik. Tanh dan sigmoid bisa dipakai, namun gradiennya mengecil di kedua ujung, sehingga ReLU menjadi pilihan umum karena efisien dan membuat konvergensi lebih cepat, meski unit di wilayah negatif bisa mati. Dengan dua lapis dan non-linearitas di antaranya, jaringan sudah bisa membentuk batas keputusan non-linear. Pembicara juga menjelaskan cross-entropy loss untuk klasifikasi, dan perkalian matriks dalam batch yang membuat GPU sangat cocok untuk pelatihan. Bagian akhir membahas generalisasi, ketika model dengan parameter berlebih tetap bisa menggeneralisasi dengan baik.
Kata kunci
- deep learning
- perceptron
- non linearity
- gradient
- Mengikuti kuliah pengantar deep learning: mengapa deep learning dan machine learning kini berhasil, serta pengaturan kelas termasuk final project.
- Memahami dasar perceptron, fungsi linear dan non-linearity, lapisan jaringan, serta langkah model mengikuti arah gradient.
- Membahas parameterisasi fungsi dan ruang berdimensi tinggi yang sulit ditafsirkan, dengan contoh seperti NeRF dan AlphaGo.
Tulis catatan pribadimu untuk video ini. Catatan tersimpan di akunmu dan bisa dibuka dari perangkat mana pun.