| Istilah | Arti |
|---|---|
| local AI | AI yang berjalan di perangkat yang Anda kendalikan, seperti laptop atau ponsel, bukan di server penyedia dari jauh. |
| open models | Model AI yang filenya bisa diunduh dan dijalankan sendiri, misalnya Gemma dari Google, Llama dari Meta, dan Mistral. |
| Hugging Face | Gudang model AI tempat orang mencari, mengunduh, dan membaca kartu model, lisensi, serta versi yang sudah dikompresi. |
| Gemma | Keluarga model terbuka dari Google yang dipakai sebagai contoh utama dalam video ini, dengan Gemma 4 E4B sebagai titik awal. |
| Ollama | Perangkat lunak untuk menjalankan model lewat perintah di terminal, dan menyediakan API lokal agar aplikasi bisa terhubung. |
| LM Studio | Aplikasi desktop yang ramah pemula untuk mengunduh model dan mengobrol dengannya tanpa banyak pengaturan teknis. |
| AI Edge | Ekosistem Google untuk menjalankan AI langsung di perangkat seperti ponsel, web, dan desktop, sebagai jalur dari demo ke produk. |
| quantized | Model yang dikompresi agar muat di laptop biasa dengan sedikit penurunan kualitas, dan biasanya diberi tanda seperti Q4 atau Q8. |
| model family | Kumpulan model dari satu pengembang yang berbagi nama keluarga, misalnya Gemma dari Google atau Llama dari Meta. |
| workflow | Rangkaian langkah pekerjaan berulang yang dibantu AI, misalnya membaca folder catatan pelanggan lalu menghasilkan satu memo. |
| device | Perangkat keras tempat model dijalankan, seperti MacBook, laptop Windows, ponsel, atau Raspberry Pi, dalam konteks AI lokal. |
| offline | Kondisi ketika model tetap bisa bekerja tanpa koneksi internet, dan ini menjadi salah satu alasan memilih AI lokal. |
Video dari kanal Greg Isenberg ini membahas mengapa AI lokal dan model terbuka bisa menciptakan banyak peluang bisnis, padahal menurut pembicara kebanyakan orang belum memahami peta ini. Istilah seperti Hugging Face, Ollama, LM Studio, dan AI Edge sering terdengar seolah hanya untuk pengembang, padahal pendiri bisnis biasa juga bisa memakainya. Pembicara menjelaskan bahwa AI lokal berarti model berjalan di perangkat yang Anda kendalikan, seperti laptop, ponsel, atau peramban, sedangkan AI cloud berjalan di tempat lain dan diakses lewat situs atau API. Pertanyaan yang sebaiknya diajukan bukan apakah model itu lebih pintar dari model cloud terbesar, melainkan apakah model itu cukup baik untuk pekerjaannya dan apakah menjalankannya secara lokal membuat produk lebih baik. Video ini disponsori Google, dan contoh utamanya memakai Gemma serta Google AI Edge.
Pembicara memberi empat bagian peta: model, tempat mencari model seperti Hugging Face, perangkat lunak penjalan model seperti LM Studio atau Ollama, dan alur kerja produk di atasnya. Ia menjelaskan istilah parameter, token, context window, kuantisasi Q4 atau Q8, serta format GGUF, lalu menyarankan Gemma 4 E4B sebagai titik awal bagi pemula. Untuk mencoba, ia menyarankan memasang LM Studio, mencari Gemma, dan mengunduh versi terkuantisasi, sementara Ollama cocok bagi pengguna yang ingin menghubungkan aplikasi ke model lewat localhost. Ia juga mencontohkan tiga ide bisnis: peninjau kualitas dokumentasi untuk agensi perawatan di rumah, aplikasi laporan lapangan offline untuk kontraktor restorasi, dan pemeriksa draf email sebelum dikirim untuk firma jasa profesional. Pesan akhirnya, mulai dari satu alur kerja berulang yang menghasilkan berkas bisa dipakai, bukan dari melatih model sendiri.
Kata kunci
- local AI
- Hugging Face
- Gemma
- AI Edge
- Memetakan peluang bisnis dari local AI dan model terbuka: apa itu, kapan penting, dan cara menjalankan model terbuka untuk pekerjaan.
- Menjelaskan peran Hugging Face untuk menemukan model, keluarga model Gemma yang cocok dimulai, serta menjalankannya secara lokal dengan LM Studio atau Ollama dan jalur AI Edge untuk aplikasi di perangkat.
- Membahas ide startup seperti co-pilot laporan lapangan offline untuk kontraktor restorasi (kerusakan air, api, jamur).
Tulis catatan pribadimu untuk video ini. Catatan tersimpan di akunmu dan bisa dibuka dari perangkat mana pun.