| Istilah | Arti |
|---|---|
| DeepSeek | Perusahaan AI pembuat model terbuka DeepSeek 4, yang di video ini dipuji karena konteks panjang, efisiensi tinggi, dan harga yang sangat murah. |
| context window | Jumlah teks maksimal yang bisa dibaca model sekaligus, yang pada DeepSeek 4 mencapai sekitar sejuta token atau kira-kira 1500 halaman. |
| compression | Teknik memadatkan informasi agar hemat memori, di video ini dilakukan dalam tiga lapis berupa ringkasan, daftar isi, dan indeks. |
| open weights | Model AI yang bobot parameternya dibagikan bebas sehingga siapa pun bisa mengunduh dan menjalankannya sendiri secara gratis. |
| Pro model | Versi terbesar DeepSeek 4 yang hasilnya kira-kira setara model frontier bernilai miliaran dolar dari beberapa bulan sebelumnya. |
| cache | Tempat penyimpanan sementara, di sini KV cache yang menampung prompt dan dokumen, yang kebutuhan memorinya dipangkas sekitar 90 persen. |
| index | Daftar kata beserta letaknya seperti indeks buku, perumpamaan untuk Compressed Sparse Attention yang langsung menunjuk bagian paling relevan. |
| Gemini | Model AI andalan Google yang lebih dulu terkenal dengan konteks panjang, dan versi Gemini 3.1 Pro kalah dari DeepSeek Pro dalam uji mengingat fakta. |
| hallucinate | Kondisi ketika AI mengarang informasi yang salah, yang menurut video mulai terjadi saat panjang teks mendekati batas context window. |
| paper | Makalah riset setebal 58 halaman dari tim DeepSeek yang menjelaskan cara kerja, hasil uji, dan keterbatasan DeepSeek 4. |
| 1 million token context window | Kemampuan DeepSeek 4 membaca sekitar sejuta token sekaligus, setara kira-kira 1500 halaman dokumentasi padat dalam satu permintaan. |
| frontier | Sebutan untuk model AI paling canggih di garis depan, yang menurut video bisa ditandingi model gratis DeepSeek 4 Pro. |
Dalam episode Two Minute Papers ini, Dr. Károly Zsolnai-Fehér membahas DeepSeek 4 yang dijelaskan dalam makalah riset setebal 58 halaman. Ia terkejut karena model open weights yang gratis ini punya 1 million token context window, cukup untuk membaca sekitar 1.500 halaman dokumentasi padat, fitur yang dua tahun lalu menjadi andalan Gemini dari Google. Hasil Pro model kira-kira setara model frontier bernilai miliaran dolar dari beberapa bulan sebelumnya, sedangkan model Flash yang jauh lebih kecil cukup bisa bersaing dengannya. Saat menghasilkan teks panjang, model Pro baru membutuhkan daya komputasi sekitar tiga kali lebih kecil dari versi sebelumnya, dan model Flash sekitar sepuluh kali lebih kecil. Video ini penting karena menjelaskan cara kerja di balik efisiensi itu sekaligus batasan yang jarang disebut dalam berita.
Kuncinya ada pada tiga lapis compression untuk KV cache, yaitu tempat menampung prompt dan dokumen. Pertama, token-level compression yang ibarat meringkas tiap paragraf buku menjadi satu kalimat. Kedua, Heavily Compressed Attention dengan rasio 128 banding 1, ibarat daftar isi. Ketiga, Compressed Sparse Attention yang bekerja seperti index untuk langsung menemukan lima halaman paling relevan. Gabungannya memangkas kebutuhan memori KV cache sekitar 90 persen, meski seluruh model tetap harus dimuat. Dalam uji delapan fakta tersembunyi, versi Pro mengingat lebih baik daripada Gemini 3.1 Pro, walau tetap mulai melupakan dan hallucinate saat mendekati batas konteks. Model ini juga hebat untuk coding dan harganya bisa 30 kali lebih murah daripada Claude dari Anthropic. Batasannya, model ini hanya membaca teks tanpa gambar atau audio, dan pembuatnya belum paham mengapa dua teknik penstabil pelatihan berhasil. Károly juga menyebut teknik Engram untuk mengingat fakta tanpa menghitung ulang.
Kata kunci
- DeepSeek
- context window
- compression
- open weights
- Membahas DeepSeek 4 yang dijelaskan dalam makalah 58 halaman, salah satu model terbuka dan gratis terbesar.
- Menjelaskan context window 1 juta token pada model open weights dan trik kompresi dengan analogi daftar isi buku.
- Mengingatkan keterbatasan: saat mendekati batas context window, model lupa, drift, dan berhalusinasi.
Tulis catatan pribadimu untuk video ini. Catatan tersimpan di akunmu dan bisa dibuka dari perangkat mana pun.