Tonton di YouTube Pemilik video ini tidak mengizinkan video diputar di situs lain.Stanford CS153 Frontier Systems | Jensen Huang from NVIDIA on the Compute Behind Intelligence
| Istilah | Arti |
|---|---|
| co-design | Pendekatan merancang algoritma, compiler, chip, jaringan, dan storage secara bersamaan, yang menurut Jensen membuat NVIDIA meraih percepatan sekitar sejuta kali dalam sepuluh tahun. |
| Nvidia | Perusahaan pembuat GPU yang dipimpin Jensen Huang, dalam video ini digambarkan sebagai perusahaan sistem komputer pertama yang menerapkan co-design ekstrem. |
| Hopper | Generasi GPU NVIDIA yang menurut Jensen dirancang khusus untuk pre-training dengan sistem bernilai miliaran dolar saat pasarnya belum ada. |
| MFU | Model FLOPs Utilization, persentase kemampuan hitung yang benar-benar terpakai saat bekerja, yang menurut Jensen bukan ukuran keberhasilan yang tepat. |
| FLOPs | Jumlah operasi bilangan pecahan yang bisa dihitung chip, yang menurut Jensen murah dan tidak cukup untuk menilai kinerja sistem AI. |
| Moore's Law | Pengamatan bahwa kinerja chip naik sekitar dua kali tiap delapan belas bulan, yang menurut Jensen kini melambat dan kalah jauh dari hasil co-design. |
| compute | Kapasitas komputasi untuk melatih dan menjalankan AI, yang menurut mahasiswa langka di kampus dan menurut Jensen perlu dibangun terpusat oleh universitas. |
| energy | Listrik yang dibutuhkan pusat data AI, yang menurut Jensen kebutuhannya bisa naik sekitar seribu kali sehingga efisiensi dan energi berkelanjutan sangat penting. |
| reasoning | Kemampuan AI berpikir langkah demi langkah dengan menghasilkan token untuk dirinya sendiri, yang juga dipakai Alpamayo agar mengemudi dengan pola nalar manusia. |
| harness | Lapisan perangkat lunak yang membungkus model bahasa menjadi alat kerja, dicontohkan Jensen dengan Claude Code yang membungkus model Claude. |
| compilers | Program yang menerjemahkan kode menjadi instruksi mesin, dicontohkan lewat karya John Hennessy yang merancang prosesor RISC bersama compiler agar kinerjanya lebih baik. |
| pre-training | Tahap awal melatih model besar dengan data dalam jumlah sangat banyak, yang menjadi sasaran rancangan GPU Hopper menurut Jensen. |
Video ini adalah sesi tanya jawab di kelas Stanford CS153 Frontier Systems bersama Jensen Huang, CEO NVIDIA. Jensen berpendapat komputasi sedang diciptakan ulang untuk pertama kalinya dalam sekitar 60 tahun sejak IBM System 360: dulu konten dan perangkat lunak direkam lebih dulu, kini semuanya dihasilkan secara real-time oleh AI, dan sistem agentic akan berjalan terus-menerus, bukan lagi on-demand. Ia menjelaskan co-design, yaitu mengoptimalkan algoritma, compiler, framework, chip, jaringan, dan storage sekaligus, sebagai alasan NVIDIA mencapai percepatan sekitar sejuta kali dalam 10 tahun, jauh di atas Hukum Moore yang hanya memberi sekitar 10 sampai 100 kali. Lonjakan itulah yang membuat peneliti AI berani melatih model dengan seluruh data internet. Sesi ini juga membahas pendidikan, model terbuka, ukuran kinerja, energi, ekspor chip, karier, dan kesalahan strategi, sehingga penonton melihat langsung cara seorang pemimpin industri bernalar dari prinsip dasar.
Jensen menyebut MFU sebagai metrik yang keliru; ia justru ingin MFU rendah karena kapasitas berlebih menghindari hambatan hukum Amdahl, dan menyarankan token per watt serta eval yang serius. Ia menelusuri generasi chip: Hopper untuk pre-training, saat superkomputer termahal baru bernilai 350 juta dolar; Grace Blackwell NVLink 72 untuk decode dengan lonjakan 50 kali; Vera Rubin untuk agen; lalu Feynman untuk kawanan agen. Kebutuhan energi komputasi ia perkirakan sekitar 1.000 kali lipat. Ia menyarankan memakai model Anthropic, OpenAI, dan harness Claude Code, tetapi NVIDIA tetap membangun model terbuka seperti Nemotron, BioNemo, Alpamayo, dan Groot. Ia menolak analogi GPU dengan bom atom, mendorong Stanford menyisihkan 1 miliar dolar untuk superkomputer kampus, dan mengaku keliru masuk pasar perangkat mobile hingga tersingkir oleh Qualcomm pada transisi 3G ke 4G sebelum keahliannya dialihkan ke robotika. Ia juga menasihati mahasiswa agar mau menjalani kesulitan demi ketahanan.
Kata kunci
- co-design
- Hopper
- MFU
- Moore's Law
- Mengikuti wawancara santai dengan Jensen Huang di Stanford tentang co-design perangkat keras dan perangkat lunak serta mengapa itu penting.
- Membahas komputasi, energi, FLOPs, MFU, hukum Moore, dan keputusan merancang Hopper untuk pre-training lalu untuk reasoning.
- Melihat pandangan tentang harness di sekitar model seperti Claude Code, perlombaan global, dan cara memikirkan masa depan perusahaan.
Tulis catatan pribadimu untuk video ini. Catatan tersimpan di akunmu dan bisa dibuka dari perangkat mana pun.