Watching America Run Away With AI - Alistair Pullen (Cosine AI)
| Istilah | Arti |
|---|---|
| sovereign | Istilah ini berarti AI yang dibangun dan dikendalikan sebuah negara, sehingga tidak bergantung pada teknologi atau izin ekspor dari negara lain. |
| swarm | Sistem banyak sub-agent yang berjalan bersamaan secara hierarkis, dipakai di video ini untuk memecah satu proyek besar menjadi ratusan tugas kecil. |
| agentic harness | Lapisan perangkat lunak yang mengatur model AI memanggil alat dan menjalankan perintah, yang menurut Alistair peranannya makin kecil seiring model makin pintar. |
| exploit validation | Pengujian otomatis yang menjalankan aplikasi di mesin virtual untuk membuktikan temuan kerentanan benar-benar bisa dieksploitasi, bukan sekadar terlihat mencurigakan di kode. |
| trajectories | Catatan lengkap langkah-langkah yang diambil agen AI dari awal sampai akhir sebuah tugas, termasuk keputusan dan hasil antaranya. |
| code review | Proses memeriksa kode oleh orang atau alat sebelum digabungkan ke cabang utama, yang menjadi masalah besar ketika AI menghasilkan kode dalam jumlah sangat banyak. |
| software engineering | Disiplin membangun perangkat lunak, yang menurut Alistair bukan sekadar menjalankan kode, tetapi juga proses membuat dan menyempurnakan abstraksi. |
| billion active | Istilah untuk jumlah parameter aktif model, yaitu bagian bobot yang benar-benar dihitung saat satu token diproses, sering diukur dalam miliar. |
| reward | Nilai hadiah yang diberikan kepada model saat pelatihan reinforcement learning, yang dalam video ini hanya diberikan bila hasil kerjanya benar lebih dulu. |
| spaghetti | Kiasan untuk kode atau sistem yang berantakan dan saling bertumpuk, hasil dari penambahan kode buruk di atas kode buruk tanpa perencanaan. |
| inference | Proses menjalankan model AI untuk menghasilkan jawaban, yang biayanya menentukan seberapa layak sebuah model dioperasikan secara nyata. |
| harness | Kata lain untuk lapisan pengendali agen AI, yang dalam video ini dibahas efisiensinya agar memakai token sesedikit mungkin. |
Video ini berisi percakapan Machine Learning Street Talk dengan Alistair Pullen dari Cosine AI, sebuah laboratorium AI di London. Cosine sebelumnya membangun agen coding untuk sektor yang sangat diatur seperti keuangan, asuransi, dan pertahanan, lalu baru-baru ini mendapat mandat membangun LLM berdaulat pertama Inggris. Pembahasan utamanya adalah bagaimana tim dengan dana jauh lebih kecil bisa bersaing dengan laboratorium Amerika yang berinvestasi puluhan hingga ratusan miliar dolar. Alistair menyebut tiga faktor penentu kualitas model, yaitu arsitektur dan ukuran model, jumlah parameter aktif, dan kualitas data. Video ini penting bagi penonton yang ingin memahami cara model AI dibuat, mengapa biaya inferensi ikut menentukan desain, dan mengapa kode yang dihasilkan AI tetap perlu diperiksa dengan teliti.
Alistair menjelaskan bahwa Cosine menjual lisensi teknologinya, bukan token API. Pelanggan di lingkungan terisolasi menjalankan bobot model di GPU mereka sendiri, atau menyewa GPU di cloud seperti Azure atau AWS. Pelatihan model dilakukan di superkomputer Isambard di Bristol melalui alokasi compute dari unit AI berdaulat pemerintah. Ia berpendapat model dense akan lebih baik, dan contohnya Devstral 2 123B terasa jauh lebih baik daripada gpt-oss 120B yang hanya sekitar 5 miliar parameter aktif. Untuk reinforcement learning, Cosine memberi bobot pada titik keputusan penting dalam sebuah lintasan, bukan membagi rata semua token. Untuk review kode, Cosine memakai exploit validation, yaitu menjalankan aplikasi di mesin virtual untuk membuktikan setiap temuan sebelum sampai ke manusia. Dalam swarm mereka, satu orkestrator membagi tugas ke sub-planner, lalu ke banyak worker, dan proyek jam tangan mekanik memakai 253 sub-agent.
Kata kunci
- sovereign
- agentic harness
- exploit validation
- swarm
- Mengikuti diskusi tentang membangun LLM berdaulat (sovereign) pertama untuk Inggris dengan anggaran jutaan, bukan miliaran.
- Membahas keputusan arsitektur model besar (puluhan miliar parameter aktif), reward berbasis kebenaran yang bisa memperkuat perilaku buruk, dan pemakaian trajectories.
- Menelusuri agentic harness, swarm agen dengan exploit validation, dan code review untuk software engineering.
Tulis catatan pribadimu untuk video ini. Catatan tersimpan di akunmu dan bisa dibuka dari perangkat mana pun.