| Istilah | Arti |
|---|---|
| Jev | Model AI buatan Typesafe yang tidak menulis teks melainkan hanya mengambil keputusan cepat dan murah beserta tingkat keyakinannya, menjadi topik utama video ini. |
| Type-safe | Nama perusahaan rintisan bernama Typesafe yang didirikan oleh salah satu pencipta ChatGPT dan merilis model Jev. |
| classification | Proses memilah sebuah masukan ke beberapa kategori yang sudah ditentukan sebelumnya, keahlian utama Jev yang dicontohkan dengan pemilahan email. |
| confidence | Angka persentase yang menunjukkan seberapa yakin Jev terhadap keputusannya, misalnya 90 persen yakin sebuah email menawarkan kerja sama. |
| context window | Batas jumlah teks yang bisa dibaca model sekaligus, pada Jev hanya 64 ribu token masukan atau sekitar 6 persen dari model besar. |
| input tokens | Potongan teks yang dikirim ke model untuk dibaca, satu-satunya jenis token pada Jev karena model ini tidak menghasilkan teks keluaran. |
| category | Pilihan kotak yang ditentukan pengguna untuk dipilih Jev, misalnya brand deal, cold pitch, atau newsletter dalam demo email Riley. |
| score | Jenis keluaran Jev yang menempatkan masukan pada skala buatan pengguna, misalnya tingkat kepentingan email dari ignore hingga insane. |
| emails | Kotak masuk berisi 500 surel milik Riley yang dipakai sebagai bahan demo untuk menunjukkan kecepatan Jev memilah dan menilai pesan. |
| brand deal | Tawaran kerja sama sponsor dari sebuah merek kepada kreator, yang dideteksi Jev di antara email Riley dalam demo. |
| gateway | Layanan perantara yang menyediakan akses ke berbagai model AI lewat satu kunci API, tempat Jev bisa dipakai tanpa menunggu daftar tunggu. |
| Vercel | Platform pengembangan dan hosting web yang menyediakan AI Gateway berisi model Jev sehingga pengembang bisa langsung membangun aplikasi dengannya. |
Riley Brown membahas Jev, model AI baru dari perusahaan Typesafe yang berbeda dari chatbot seperti GPT6 Astra atau Fable 5.1. Jev tidak bisa menulis kalimat sama sekali, tetapi dibuat khusus untuk mengambil keputusan dengan sangat cepat dan murah. Menurut video peluncurannya, pendiri Typesafe yang ikut menciptakan ChatGPT menghabiskan dua tahun membangun cara pelatihan baru bernama RLCD, dan mengklaim Jev 20 sampai 200 kali lebih cepat serta 40 sampai 400 kali lebih murah. Jev membaca bahasa seperti LLM, tetapi hanya mengeluarkan putusan beserta tingkat keyakinannya, sehingga tidak ada biaya token keluaran. Riley menjelaskan sepuluh hal yang perlu diketahui sebelum memakai model ini, dan menunjukkan bahwa kekuatan utamanya adalah klasifikasi, yaitu memilah masukan ke kotak-kotak yang sudah ditentukan lebih dulu.
Riley mendemokan aplikasi buatan Claude yang memakai Jev untuk memilah 500 emailnya dalam hitungan detik. Ia memperlihatkan tiga jenis keluaran: choice untuk memilih kategori seperti brand deal, cold pitch, dan newsletter; score untuk skala kepentingan dari ignore sampai insane; serta jenis ya atau tidak yang ia sebut null, misalnya peluang email menyebut brand deal atau berisi penipuan, yang menemukan 55 email scam. Ia juga membuat agent dengan model router yang memakai Jev untuk memilih model nano atau Claude Sonnet 5 sesuai beratnya permintaan. Menurut benchmark Typesafe, satu keputusan butuh sekitar 0,4 detik dan 0,00004 dolar, dibanding LLM biasa sekitar 3 sen dan 10 detik. Context window-nya 64.000 token masukan. Contoh pengguna lain meliputi simulasi Tesla Autopilot, bot trading saham, dan agent browser yang memesan tiket pesawat. Jev bisa dicoba lewat daftar tunggu Typesafe atau Vercel AI Gateway.
Kata kunci
- Jev
- Type-safe
- input tokens
- context window
- Memperkenalkan Jev dari Type-safe, model yang bukan chatbot dan tidak bisa menulis kalimat, tetapi membuat keputusan jauh lebih cepat dan murah daripada model lain.
- Memperagakan tiga alat buatan pembicara, misalnya memilah 500 email untuk menilai kepentingan dan peluang brand deal, dengan jawaban kategori atau skor beserta tingkat keyakinan (misalnya 91%).
- Menjelaskan 10 hal yang perlu diketahui, seperti hanya ada input tokens dengan context window 64.000 (sekitar 6% dari Astra) dan akses lewat gateway.
Tulis catatan pribadimu untuk video ini. Catatan tersimpan di akunmu dan bisa dibuka dari perangkat mana pun.