MIT 6.S087: Foundation Models & Generative AI. AUTONOMY
| Istilah | Arti |
|---|---|
| autonomous agents | Sistem AI yang merasakan lingkungannya dan bertindak sendiri, misalnya mengerjakan tugas daring seperti tes mengemudi, untuk mencapai tujuan. |
| LLMs | Large language model, yaitu model bahasa besar seperti ChatGPT, yang dalam video ini menjadi inti penalaran agen AI. |
| planning | Kemampuan menyusun urutan langkah untuk mencapai tujuan, yang menurut pembicara masih lemah pada LLM sehingga perlu dibatasi. |
| hallucinate | Kondisi ketika model AI menghasilkan jawaban yang terdengar yakin tetapi keliru, dan pembicara menyebutnya sebagai kelemahan LLM. |
| retrieval augmented generation | Teknik yang membuat model mencari sumber baru lalu memakainya sebagai catatan sebelum menjawab, yang disingkat RAG. |
| self reflect | Kemampuan model meninjau dan mengkritik jawabannya sendiri secara berulang sebelum memberikan hasil akhir. |
| AGI | Singkatan kecerdasan umum buatan, yaitu target AI yang mampu menjalankan berbagai tugas seperti manusia di banyak lingkungan. |
| symbolic | Perhitungan atau penalaran berbasis simbol dan angka, yang menurut pembicara sulit bagi LLM dan lebih baik ditangani oleh kalkulator. |
| sensors | Perangkat penangkap informasi dari lingkungan, seperti kamera pada mobil otonom, yang pada agen LLM modern disebut sebagai tools. |
| environment | Lingkungan tempat agen bertindak dan menerima umpan balik, dan menurut pembicara tindakan di dalamnya lebih efisien daripada perencanaan panjang. |
| artificial general intelligence | Nama lengkap dari AGI yang dikutip pembicara sebagai kemampuan menyelesaikan tugas apa pun yang bisa dilakukan manusia. |
| perceive | Kemampuan menerima dan menafsirkan hasil tindakan dari lingkungan, yang membuat agen bisa memperbaiki rencananya. |
Video ini adalah bagian tentang autonomy dari kuliah MIT 6.S087 mengenai model fondasi dan AI generatif. Pembicaranya, Art, yang disebut sebagai pendiri Kraken AGI, menjelaskan agen AI otonom yang bisa merencanakan dan menjalankan tugas, misalnya memesan pizza atau mengerjakan tes mengemudi daring. Ia memulai dengan menunjukkan bahwa istilah di bidang ini sering membingungkan, seperti GPT sebagai model, ChatGPT sebagai produk, dan GPTs sebagai asisten. Inti pembahasan adalah cara mendorong model bahasa besar menuju kecerdasan umum buatan. Ia juga menyinggung bahwa model bahasa seperti biksu di dalam gua, yang mengetahui banyak hal tetapi tidak berada di lingkungan nyata. Video ini relevan bagi siapa pun yang ingin memahami arah industri AI saat ini.
Pembicara menjelaskan beberapa teknik yang dipakai industri. Pertama, self reflect dan chain of thought, yaitu model berpikir bertahap dan mengkritik jawabannya sendiri melalui critique prompts. Kedua, pembelajaran penguatan dengan umpan balik AI, yang ia ibaratkan sebagai waktu tidur bagi AI karena pengetahuannya diperbarui. Ketiga, retrieval augmented generation atau RAG, yaitu model mencari sumber baru sebelum menjawab. Keempat, penggunaan alat seperti kalkulator, karena LLM lemah dalam perhitungan simbolik. Ia juga menilai LLM masih lemah dalam perencanaan jangka panjang, sehingga lebih baik merencanakan langkah pertama, bertindak, lalu menyusun ulang. Ia menyebut LangChain dan AutoGen sebagai kerangka kerja, serta ChatDev sebagai contoh tim agen perangkat lunak. Sesi tanya jawab menutup video ini.
Kata kunci
- autonomous agents
- planning
- retrieval augmented generation
- AGI
- Mengikuti kuliah tamu tentang agen otonom: membayangkan agen yang meriset topik dan memberi laporan ringkas, atau memesan makanan lewat ChatGPT.
- Membahas keterbatasan LLM saat ini (planning, halusinasi), teknik seperti retrieval augmented generation dan self reflect, serta kebutuhan arsitektur baru.
- Menyinggung model efisien untuk navigasi, agen yang mempersepsi lingkungan lewat sensor, dan inspirasi dari otak manusia menuju AGI.
Tulis catatan pribadimu untuk video ini. Catatan tersimpan di akunmu dan bisa dibuka dari perangkat mana pun.