How I use LLMs

BeginnerPerishable

Istilah sulit di video ini dan artinya
Istilah	Arti
internet search	Kemampuan model mencari di web, membuka beberapa halaman, lalu memasukkan isinya ke context window agar bisa menjawab pertanyaan tentang informasi baru seperti jadwal White Lotus season 3.
tokens	Potongan kecil teks yang dibaca dan ditulis model, misalnya pertanyaan haiku di video ini menjadi 15 token dari kosakata sekitar 200 ribu token.
ChatGPT	Aplikasi chat buatan OpenAI yang dirilis tahun 2022, disebut Karpathy sebagai pemain lama yang paling kaya fitur dan dipakai sebagai contoh utama di video ini.
Perplexity	Aplikasi tanya jawab berbasis LLM yang kuat dalam pencarian internet, tempat Karpathy biasa bertanya hal terbaru dan mencoba model penalaran DeepSeek R1 serta fitur Deep Research.
Grok	Asisten AI dari perusahaan xAI milik Elon Musk, yang di video ini dicoba untuk mode berpikir, deep search, dan mode suara dengan banyak kepribadian yang nyeleneh.
audio	Suara yang dipakai untuk berbicara dengan model, baik lewat konversi suara ke teks maupun secara langsung sebagai token audio dalam advanced voice mode.
zip file	Perumpamaan Karpathy untuk model bahasa, yaitu berkas sekitar satu terabyte berisi kompresi internet yang tidak persis dan probabilistik di dalam parameter jaringan saraf.
knowledge	Pengetahuan yang tersimpan di parameter model dari tahap pre-training, bersifat samar, berhenti pada tanggal tertentu, dan paling andal untuk topik yang sering dibahas di internet.
search tool	Alat pencarian web yang bisa diaktifkan sendiri oleh model atau dipilih pengguna, cocok untuk pertanyaan yang jawabannya berubah seiring waktu atau ada di beberapa tautan teratas.
window	Kependekan dari context window, yaitu memori kerja berisi deretan token percakapan yang bisa langsung diakses model dan dikosongkan setiap kali memulai chat baru.
hallucinate	Kondisi ketika model mengarang jawaban yang terdengar meyakinkan tetapi salah, seperti hasil perkalian Grok 3 atau nilai valuasi 1,7 triliun yang keliru di video ini.
notebook	Merujuk pada NotebookLM dari Google, alat untuk mengunggah sumber seperti PDF lalu bertanya tentang isinya atau membuat podcast Deep Dive otomatis dari sumber tersebut.

Dalam video ini Andrej Karpathy melanjutkan seri untuk penonton umum tentang large language model, kali ini dari sisi praktis: cara ia sendiri memakai ChatGPT dan aplikasi sejenis dalam kehidupan dan pekerjaan sehari-hari. Ia memulai dengan model mental yang sederhana. Setiap percakapan adalah deretan token yang ditulis bergantian oleh pengguna dan model di dalam context window, yaitu memori kerja model. Model itu sendiri ibarat zip file berukuran sekitar satu terabyte berisi kompresi internet yang samar dan probabilistik dari tahap pre-training, ditambah kepribadian asisten dari tahap post-training, dengan batas pengetahuan beberapa bulan lalu. Dari gambaran ini muncul saran penting: mulai chat baru setiap kali berganti topik, ketahui model dan tingkat langganan yang sedang dipakai, dan pahami kapan model cukup mengandalkan ingatannya serta kapan ia butuh alat. Video ini penting karena ekosistem aplikasi LLM tumbuh cepat dan setiap aplikasi punya fitur, kekuatan, dan keterbatasan yang berbeda.

Karpathy lalu memperagakan banyak fitur dengan contoh nyata. Model berpikir seperti o1 Pro berhasil menemukan bug gradient check yang terlewat oleh GPT-4o, sedangkan internet search di Perplexity atau ChatGPT menjawab pertanyaan baru seperti jadwal White Lotus season 3. Deep Research menyusun laporan dari 27 sumber tentang suplemen AKG, tetapi tabel lab LLM buatannya melewatkan xAI. Ia membaca makalah Evo 2 dan buku The Wealth of Nations bersama LLM, memakai Python interpreter untuk perkalian besar ketika Grok 3 berhalusinasi, dan menunjukkan Advanced Data Analysis yang diam-diam mengisi data kosong serta salah menyebut valuasi 1,7 triliun. Claude Artifacts membuat aplikasi flashcard dan diagram Mermaid, sementara Cursor dengan Composer membangun game tic-tac-toe lewat vibe coding. Bagian multimodal mencakup input suara dengan SuperWhisper, advanced voice mode, mode suara Grok, podcast dari NotebookLM, analisis foto hasil tes darah dan label pasta gigi, gambar dari DALL-E, serta kamera video. Video ditutup dengan fitur memori, custom instructions, dan custom GPT untuk belajar bahasa Korea, dengan pesan untuk selalu memeriksa ulang hasil model.

Kata kunci

internet search
tokens
Perplexity
audio

Istilah

Arti

internet search

Kemampuan model mencari di web, membuka beberapa halaman, lalu memasukkan isinya ke context window agar bisa menjawab pertanyaan tentang informasi baru seperti jadwal White Lotus season 3.

tokens

Potongan kecil teks yang dibaca dan ditulis model, misalnya pertanyaan haiku di video ini menjadi 15 token dari kosakata sekitar 200 ribu token.

ChatGPT

Aplikasi chat buatan OpenAI yang dirilis tahun 2022, disebut Karpathy sebagai pemain lama yang paling kaya fitur dan dipakai sebagai contoh utama di video ini.

Perplexity

Aplikasi tanya jawab berbasis LLM yang kuat dalam pencarian internet, tempat Karpathy biasa bertanya hal terbaru dan mencoba model penalaran DeepSeek R1 serta fitur Deep Research.

Grok

Asisten AI dari perusahaan xAI milik Elon Musk, yang di video ini dicoba untuk mode berpikir, deep search, dan mode suara dengan banyak kepribadian yang nyeleneh.

audio

Suara yang dipakai untuk berbicara dengan model, baik lewat konversi suara ke teks maupun secara langsung sebagai token audio dalam advanced voice mode.

zip file

Perumpamaan Karpathy untuk model bahasa, yaitu berkas sekitar satu terabyte berisi kompresi internet yang tidak persis dan probabilistik di dalam parameter jaringan saraf.

knowledge

Pengetahuan yang tersimpan di parameter model dari tahap pre-training, bersifat samar, berhenti pada tanggal tertentu, dan paling andal untuk topik yang sering dibahas di internet.

search tool

Alat pencarian web yang bisa diaktifkan sendiri oleh model atau dipilih pengguna, cocok untuk pertanyaan yang jawabannya berubah seiring waktu atau ada di beberapa tautan teratas.

window

Kependekan dari context window, yaitu memori kerja berisi deretan token percakapan yang bisa langsung diakses model dan dikosongkan setiap kali memulai chat baru.

hallucinate

Kondisi ketika model mengarang jawaban yang terdengar meyakinkan tetapi salah, seperti hasil perkalian Grok 3 atau nilai valuasi 1,7 triliun yang keliru di video ini.

notebook

Merujuk pada NotebookLM dari Google, alat untuk mengunggah sumber seperti PDF lalu bertanya tentang isinya atau membuat podcast Deep Dive otomatis dari sumber tersebut.