Ox Alpha is INSANE

Dalam video ini Theo dari kanal t3.gg mengulas model yang awalnya dirilis secara anonim dengan nama Ox Alpha lewat OpenRouter dan OpenCode, dengan kapasitas sampai 100 triliun token per hari. Belakangan model itu terungkap sebagai GLM 5.3 Flash buatan Z.ai, sebuah model kecil yang jauh lebih murah daripada model frontier. Pertanyaan utamanya adalah mengapa model yang menurut Theo tidak terlalu pintar justru menjadi salah satu model yang paling sering ia pakai. Jawabannya ada pada pembedaan antara kecerdasan, yaitu banyaknya pengetahuan, dan perilaku, yaitu kemampuan tetap fokus pada tugas, menerima arahan baru di tengah jalan, dan membuka hambatannya sendiri. Ia mencontohkan GPT 4.5 sebagai model yang sangat berpengetahuan tetapi kurang cakap bekerja, serta Gemini 3.1 Pro yang unggul di benchmark buatannya tetapi buruk saat mengerjakan kode. Bagi penonton, video ini membantu memilih model berdasarkan kebutuhan nyata, bukan sekadar memilih model termahal.

Theo menguji model ini di T3 Code untuk mengaudit ratusan pull request yang diperbarui dalam lima hari terakhir dengan sub-agent. Saat sebagian sub-agent gagal karena masalah API, model itu menyadarinya lalu melanjutkan audit secara langsung, membuat laporan lengkap dengan tautan, dan mengikuti arahan tambahan seperti menyaring PR buatan Fable serta menyajikan hasil dalam HTML. Biaya audit itu hanya sekitar 12 sen dengan harga 7,5 sen per juta token masukan dan 25 sen per juta token keluaran. Model ini berukuran 320 miliar parameter dengan 18 miliar aktif, memiliki jendela konteks satu juta token, mendukung gambar, audio, dan video, serta bobotnya terbuka. Theo juga membahas benchmark, efisiensi token yang masih kurang, uji desain dan game fish slop, serta fakta bahwa model ini berjalan di chip Huawei Ascend. Ia menempatkannya dekat Soul di tier list-nya dan menurunkan DeepSeek V4 Flash karena tidak punya vision. Video ini juga memuat sponsor CodeRabbit dan DNSimple.