Managed Deep Agents | Deploying mission critical agents to production
| Istilah | Arti |
|---|---|
| Deep Agents | Harness agen buatan LangChain yang bisa disesuaikan untuk tugas di domain apa pun, dibangun di atas runtime LangGraph dengan file system virtual dan subagent. |
| Managed Deep Agents | Layanan LangChain yang menggabungkan harness Deep Agents dengan infrastruktur terkelola sehingga tim cukup menulis logika bisnis lalu menjalankan mda deploy. |
| harness | Semua tambahan di sekitar model, seperti skills, tools, konteks, dan subagent, yang membuat model mendapat konteks yang tepat pada waktu yang tepat. |
| runtime | Lingkungan yang menjalankan agen saat dipakai, di video ini runtime LangGraph yang mendukung jeda, checkpoint, dan human in the loop. |
| file system | Sistem berkas virtual yang menjadi batas antara model dan berkas, dipakai Deep Agents untuk menyimpan memori, ringkasan percakapan, dan hasil tool yang besar. |
| LangSmith | Platform LangChain untuk deployment, tracing, sandbox, dan evaluasi, tempat Managed Deep Agents dijalankan di infrastruktur terkelola. |
| ReAct | Pola agen yang menggabungkan reasoning dan action, yaitu model bernalar lalu memakai tools secara bergantian sampai tugas selesai. |
| infrastructure | Bagian teknis untuk menjalankan agen di production, seperti antrean, streaming, checkpoint, dan autentikasi, yang diurus Managed Deep Agents untuk tim. |
| credentials | Data login atau token akses ke layanan seperti Salesforce, yang bisa milik pengguna, milik agen, atau akun layanan sesuai pengaturan connections. |
| context hub | Fitur LangSmith untuk menyimpan instruksi, skills, dan memori agen dengan version control sehingga tim bisa berkolaborasi dan mempromosikannya ke production. |
| memory | Kemampuan agen mengingat hal dari percakapan sebelumnya, di video ini dibagi menjadi memori tingkat agen atau prosedural dan memori preferensi tiap pengguna. |
| production | Tahap ketika agen sudah dipakai sungguhan oleh banyak orang secara andal, bukan sekadar prototipe yang berjalan di komputer pengembang. |
Victor, product manager produk runtime di LangChain, membahas cara membawa agen AI yang penting bagi bisnis dari prototipe lokal ke tahap production. Ia mulai dengan mengulang dasar: agen adalah model yang memakai tools untuk menyelesaikan tugas dengan pola ReAct, sedangkan harness adalah semua tambahan seperti skills, tools, konteks, dan subagent agar model mendapat konteks yang tepat pada waktu yang tepat. Deep Agents adalah harness yang bisa disesuaikan untuk tugas di domain apa pun, dengan empat bagian inti: lingkungan eksekusi, file system virtual untuk mengelola konteks, delegasi ke subagent, dan human in the loop. Masalah utamanya, agen yang berjalan mulus di laptop memerlukan banyak urusan infrastruktur saat dipakai banyak orang, misalnya antrean, streaming, autentikasi, dan berbagai saluran akses. Managed Deep Agents hadir agar tim cukup fokus pada logika bisnis.
Victor mencontohkan Madrigal, yang memangkas pembuatan agen riset farmasi dari hitungan minggu menjadi beberapa jam. Agen didefinisikan lewat struktur folder untuk instruksi, skills, tools, identitas, dan memori, lalu dijalankan dengan perintah mda init, mda dev untuk server lokal, dan mda deploy ke infrastruktur LangSmith. Contoh agen go-to-market internal LangChain dipakai untuk menjawab empat kekhawatiran: siapa yang meminta, akun siapa yang dipakai, memori mana yang boleh diakses, dan apa yang terjadi bila akses kurang. Jawabannya adalah auth handler lintas saluran seperti Slack, primitif connections untuk credentials pengguna atau agen yang bisa meminta login di tengah tugas, memori tingkat agen dan pengguna dengan kontrol per saluran, serta Context Hub untuk version control. Evaluasi memakai Harbor lewat mda eval init. Fitur baru rilis 0.8 meliputi kanal HTTP, API file system sandbox, memori per pengguna, connections, transfer berkas di Slack, dan pencarian bawaan Parallel yang gratis selama beta publik.
Kata kunci
- Managed Deep Agents
- harness
- runtime
- LangSmith
- Mengenal Deep Agents dan Managed Deep Agents dari LangChain untuk menjalankan agen penting (mission-critical) di produksi.
- Memahami definisi agen sebagai model yang memakai tools (gaya ReAct), serta infrastruktur terkelola seperti runtime, file system, memory, dan koneksi akun.
- Menghubungkannya ke LangSmith untuk tracing dan eksperimen agar agen bisa ditingkatkan lewat pengulangan tugas.
Tulis catatan pribadimu untuk video ini. Catatan tersimpan di akunmu dan bisa dibuka dari perangkat mana pun.