Open-weight vs closed
Bagian 4 · Di balik Frontier Lab
| Istilah | Arti |
|---|---|
| open source | Perangkat lunak yang kode sumbernya tersedia secara publik dan dapat didistribusikan atau dimodifikasi secara bebas oleh siapa saja. |
| closed source | Perangkat lunak yang kode sumbernya tidak dibuka untuk publik, sehingga pengguna hanya bisa memakainya tanpa mengubah cara kerjanya. |
| source code | Kumpulan instruksi asli yang ditulis programmer dan menjadi dasar cara sebuah program bekerja, sehingga menentukan apakah pengguna boleh mengubahnya. |
| models | Model AI yang menjadi inti sistem untuk menghasilkan jawaban, misalnya LLM dasar atau versi fine-tuned, dan menjadi pusat tumpukan AI menurut video ini. |
| orchestration | Lapisan yang mengatur cara sistem AI memecah masalah menjadi tugas kecil, termasuk perencanaan, pemanggilan tool, dan loop untuk memperbaiki jawaban. |
| inference | Proses menjalankan model yang sudah dilatih untuk menghasilkan keluaran dari sebuah input, yang pada model terbuka harus disediakan sendiri oleh pengguna. |
| Ollama | Pustaka open source yang memungkinkan model AI dijalankan langsung di laptop, dan video ini menyebutnya sebagai contoh paling terkenal untuk opsi lokal. |
| vLLM | Mesin inferensi open source untuk server yang dipakai menjalankan model AI, dan disebut video bersama TensorRT LLM sebagai contoh populer. |
| RAG pipeline | Alur kerja yang mengambil data dari luar, memprosesnya, lalu menyimpannya sebagai embedding agar model dapat menarik informasi itu ke dalam konteksnya. |
| agent framework | Kerangka kerja open source yang menentukan cara agen AI merencanakan, memanggil fungsi, dan memperbaiki hasilnya, sehingga pengguna bisa mengatur strukturnya. |
| Streamlit | Pustaka untuk membuat antarmuka web dengan cepat dan sedikit kode, dipakai sebagai contoh opsi pengaturan minimal untuk berinteraksi dengan LLM. |
| Gradio | Pustaka untuk membuat antarmuka web sederhana dengan cepat, disebut video sebagai opsi yang mudah untuk mencoba solusi AI berbasis LLM. |
Video ini membahas perbedaan AI open source dan closed source saat kita membangun chatbot sederhana maupun agen AI yang kompleks. Pembicara mengajak penonton menimbang di lapisan mana sebaiknya memakai komponen terbuka dan di lapisan mana layanan tertutup sudah cukup. Ia menyebut peneliti Harvard Business School memperkirakan nilai seluruh perangkat lunak open source mencapai 8,8 triliun dolar, dan banyak fitur unggulan dari alat AI komersial cepat ditiru komunitas sebagai implementasi terbuka. Pertanyaan utamanya sederhana tetapi penting: apakah kita ingin mengendalikan sendiri setiap bagian sistem, atau menyerahkannya kepada penyedia melalui API yang sudah dikelola. Video ini sengaja tidak membahas lapisan infrastruktur dan perangkat keras, dan hanya fokus pada perangkat lunak.
Video membagi tumpukan AI menjadi empat lapisan: model, data, orkestrasi, dan aplikasi. Pada lapisan model, opsi terbuka berupa LLM dasar atau versi fine-tuned dari komunitas yang dijalankan sendiri memakai mesin inferensi, misalnya Ollama untuk laptop atau vLLM dan TensorRT LLM untuk server. Model tertutup biasanya diakses lewat API, sehingga mesin inferensi dan infrastrukturnya sudah dikelola penyedia. Lapisan data relatif sama untuk keduanya: konektor data, konversi PDF ke format terstruktur, serta RAG pipeline dan vector DB untuk menyimpan embedding. Pada orkestrasi, kerangka kerja agen terbuka memberi kontrol penuh atas perencanaan dan pemanggilan tool, sedangkan platform tertutup lebih sederhana tetapi kurang bisa disesuaikan. Di lapisan aplikasi, Open WebUI memberi kendali penuh atas pengalaman pengguna, sementara Gradio dan Streamlit mempercepat pembuatan antarmuka web. Keuntungan open source adalah gratis, bisa dimodifikasi, dan bisa dipasang di server pilihan sendiri atau on-premise, sehingga kontrol atas tempat data pribadi mengalir jauh lebih besar.
Kata kunci
- open source AI
- closed source
- Ollama
- vLLM
- Membedakan open-source dan closed-source AI di empat lapisan: model, data, orkestrasi, dan aplikasi.
- Mengenali contoh alat open-source seperti Ollama, vLLM, Gradio, dan Streamlit.
- Menimbang untung-rugi kustomisasi, kontrol penyebaran, dan kemudahan pakai saat memilih open atau closed.
Tulis catatan pribadimu untuk modul ini. Catatan tersimpan di akunmu dan bisa dibuka dari perangkat mana pun.