| Istilah | Arti |
|---|---|
| Jev | Model AI baru dari TypeSafe yang tidak menulis teks, melainkan memberi probabilitas untuk pilihan jawaban yang sudah ditentukan. |
| TypeSafe | Startup yang membuat Jev, model AI yang dijadikan contoh utama dalam video ini untuk jenis model system one. |
| system one | Mode berpikir yang cepat dan otomatis, dipakai video ini untuk menggambarkan Jev yang membuat keputusan secara instan. |
| Kahneman | Daniel Kahneman adalah penulis buku Thinking Fast and Slow yang memperkenalkan dua mode berpikir, cepat dan lambat, yang dipinjam untuk menamai Jev. |
| refund request | Permintaan pengembalian dana dari pelanggan, yang dalam video ini menjadi pertanyaan ya atau tidak untuk sebuah email dukungan. |
| calibrated | Kondisi ketika probabilitas yang diberikan model sesuai dengan kenyataan, sehingga peluang 80 persen benar sekitar 80 persen kali. |
| probabilities | Angka antara nol dan satu yang menyatakan seberapa besar kemungkinan suatu jawaban benar, misalnya 0,9 berarti 90 persen. |
| support email | Email dari layanan pelanggan yang menjadi contoh dalam video, berisi keluhan bahwa tagihan terkena dua kali. |
| reinforcement learning | Metode pelatihan AI dengan memberi nilai atau hadiah pada jawaban model, sehingga model belajar menghasilkan jawaban yang bernilai tinggi. |
| threshold | Batas nilai yang dipakai program untuk memutuskan tindakan, misalnya langsung memproses di atas 0,9 dan meminta manusia di area tengah. |
| score | Nilai yang diberikan Jev untuk sebuah pilihan, misalnya tingkat urgensi dari rendah sampai kritis pada permintaan pelanggan. |
| post-training | Tahap lanjutan setelah pre-training, saat model dilatih agar lebih berguna untuk percakapan, biasanya dengan reinforcement learning. |
Video dari kanal IBM Technology ini memperkenalkan Jev, model AI baru dari startup TypeSafe yang tidak menulis teks sama sekali. Jev menjawab pertanyaan dengan memilih dari daftar jawaban yang sudah ditentukan dan memberikan probabilitas untuk setiap pilihan. Pembicara menyebutnya model system one, istilah yang dipinjam dari Daniel Kahneman untuk berpikir cepat dan otomatis. Masalah yang diangkat cukup umum di perangkat lunak: banyak keputusan kecil, seperti menentukan apakah sebuah email adalah permintaan pengembalian dana, tim mana yang harus menanganinya, dan seberapa mendesaknya, sekarang dijawab LLM dalam bentuk teks yang tidak punya ukuran keyakinan yang andal. Penting bagi penonton karena keputusan semacam ini bisa dibuat lebih cepat dan lebih murah.
Dalam contoh email pelanggan yang mengaku ditagih dua kali, Jev menerima dua masukan, yaitu state berupa data keputusan seperti email dan riwayat tagihan, serta daftar pertanyaan. Ada tiga jenis pertanyaan: ya atau tidak untuk refund, pilihan satu dari tiga tim, dan skor dari rendah sampai kritis untuk urgensi. Semua jawaban keluar sekaligus sebagai probabilitas, misalnya 0,9 untuk refund dan 0,85 untuk tim penagihan. Jev dilatih dengan RLCD, reinforcement learning for calibrated decisions, sehingga probabilitasnya dihargai ketika terbukti benar. Pembicara lalu menjelaskan cara memakai ambang batas: di atas sekitar 0,9 email langsung masuk antrean refund, di area tengah diminta peninjauan manusia, dan di bawah 0,1 tidak perlu tindakan. Ia juga mencatat batasan Jev: hanya menerima teks, lemah dalam matematika dan berhitung, dan bisa dikelabui instruksi tersembunyi. Kesimpulannya, Jev dan LLM sebaiknya bekerja bersama, dengan Jev untuk keputusan cepat dan LLM untuk pekerjaan yang butuh pemikiran panjang.
Kata kunci
- Jev
- system one
- refund request
- calibrated
- Menjelaskan Jev dari TypeSafe, model AI yang tidak menulis teks tetapi menjawab dengan memilih dari daftar dan memberi probabilitas tiap jawaban, sebagai model system one ala buku Thinking, Fast and Slow karya Daniel Kahneman.
- Membahas probabilitas yang terkalibrasi, contoh email dukungan yang diklasifikasikan sebagai permintaan refund lalu dikirim ke antrean, dan ambang skor untuk kasus tidak pasti.
- Menjelaskan post-training dengan reinforcement learning dan bahwa Jev cepat dan murah sehingga bisa dipasang di setiap baris database atau log.
Tulis catatan pribadimu untuk video ini. Catatan tersimpan di akunmu dan bisa dibuka dari perangkat mana pun.