MIT 6.S087: Foundation Models & Generative AI. HOW IT WORKS

Kuliah kedua MIT 6.S087 yang dibawakan Rickard Brüel Gabrielsson ini membahas berbagai cara melatih foundation model dan AI generatif, yang menurutnya merupakan terobosan konseptual terpenting di bidang ini. Ia mengulang inti kuliah sebelumnya: supervised learning sulit diperluas karena seluruh dunia tidak mungkin diberi label oleh manusia, sedangkan reinforcement learning terlalu lambat dan berisiko bila model belum punya pemahaman awal tentang dunia. Karena itu kuncinya adalah self-supervised learning, yaitu belajar dari data tanpa label dengan memaknai sesuatu lewat hubungan dan konteksnya, seperti memahami anjing dengan membandingkannya dengan kucing. Dari sana ia menelusuri perjalanan pemrosesan bahasa, dari era ketika setiap tugas punya tim, data, dan model sendiri, sampai lahirnya ChatGPT. Ia juga membahas teknik untuk gambar, perbedaan antara representation learning dan generasi, peran bahasa sebagai media universal untuk berpikir dan memeriksa ide, serta autonomous agent. Materi ini penting karena memberi gambaran utuh tentang cara model AI modern belajar dari data mentah dalam jumlah besar.

Untuk bahasa, ia menjelaskan masked language modeling: sebuah kata disembunyikan, misalnya pada kalimat tentang pergi ke bank untuk berenang, lalu model menebaknya dari kata di sekitarnya sehingga belajar membedakan bank sungai dan bank keuangan. Model hasil pre-training ini kemudian dipakai untuk tugas downstream seperti klasifikasi ulasan Amazon. Google lalu membuat T5 yang mengubah semua tugas menjadi format teks ke teks, sedangkan causal language modeling hanya menebak kata berikutnya dan, bila dilatih dalam skala sangat besar dengan biaya komputasi sekitar seratus juta dolar, melahirkan ChatGPT. Untuk gambar, ia memaparkan contrastive learning dengan pasangan positif dan negatif di antara sekitar 10.000 kandidat, teka-teki jigsaw, denoising yang menjadi dasar stable diffusion, autoencoder yang memadatkan gambar menjadi 32 angka, serta GAN dengan model artis dan kritikus. Ia juga menunjukkan manfaat embedding space bersama, termasuk contoh rekomendasi produk fashion dari data belanja kebutuhan dapur. Bagian akhir membahas bahasa sebagai alat memeriksa rencana robot membuat sandwich, autonomous agent yang memakai internet dan kalkulator, serta peringatan bahwa pasar AI cenderung dikuasai segelintir pemain.