AnythingLLM

Video tutorial ini menunjukkan cara memasang AnythingLLM, aplikasi gratis yang memungkinkan pengguna mengunggah dokumen lalu bertanya tentang isinya, dengan jawaban yang disertai sumber. Pembicara menekankan bahwa fitur seperti tools, web search, dan web scraping biasanya berbayar, tetapi di AnythingLLM semuanya berjalan di komputer sendiri sehingga data privat tidak meninggalkan perangkat. Langkahnya dimulai dari mengunduh dan memasang aplikasi, memilih model, lalu menghubungkan model lokal dengan memasukkan base URL localhost pada menu setup. Pembicara memakai model lokal berukuran kecil untuk demonstrasi. Penonton yang ingin memiliki asisten AI privat tanpa biaya langganan dapat menjadikan video ini sebagai panduan awal.

Fitur yang ditunjukkan meliputi slash command untuk menyimpan prompt sebagai perintah singkat, agent skills bawaan seperti membaca dan merangkum dokumen, web scraping, web search dengan daftar sumber, serta pembuatan file seperti PDF, Excel, dan presentasi. Pengguna juga dapat menjadwalkan pengingat dan menghubungkan Gmail, Google Calendar, serta Outlook untuk merangkum email. Workspace dan thread membantu memisahkan konteks pekerjaan, misalnya pemasaran atau penjualan. Pembicara juga menunjukkan batas konteks: workspace berisi dokumen 2024 tercatat memakai 226.000 token, sementara token yang tersedia hanya sekitar 13.000, sehingga disarankan pemakaian di bawah 18 persen. Saat mencoba merangkum dokumen dengan model kecil, muncul galat karena konteks melebihi batas 16.385 token, yakni sekitar 28.000. Solusinya adalah memakai model yang lebih besar agar jendela konteksnya lebih luas. Untuk penggunaan kerja, pembicara menyarankan contoh bot pertanyaan pelanggan yang dilatih dengan dokumen perusahaan, dan fitur rekaman rapat yang menghasilkan transkrip serta ringkasan.