AI Labs Warn Race Makes Breach ‘Inevitable’

Video dari kanal AI Explained ini membahas peringatan bahwa pelanggaran besar pada AI kemungkinan segera terjadi, karena perlombaan antarlab yang semakin cepat. Pembicara membagi videonya menjadi tiga bagian, yaitu potensi pelanggaran, alasan lab tetap berlomba, dan mengapa 18 bulan ke depan sulit diprediksi. Ia menyebut beberapa tanda, seperti tim keamanan OpenAI yang kesulitan membatasi model, sulitnya memantau chain of thought, serta Anthropic yang harus mematikan akses internet untuk evaluasi internal karena model berulah. Pembicara memperkirakan pelanggaran itu akan terjadi tidak lama lagi, dan menilai pembuat kebijakan baru akan bereaksi setelah ada kejadian buruk, seperti Chernobyl di dunia AI.

Pembicara menjelaskan mengapa lab tetap berlomba: pendapatan yang melonjak secara eksponensial, tekanan dari lab pesaing, dan persaingan dengan China yang ditekankan Dario Amodei. Namun ia juga mengutip kepala ilmuwan OpenAI yang mengatakan scaling tidak bisa terus dilakukan dengan kecepatan maksimum, serta usulan empat kunci internal: batas alignment, pemantauan, keamanan berlapis, dan uji kapabilitas. Di bidang matematika, bukti 199 halaman untuk quasi-Riemann hypothesis disebut sebagai langkah terbesar menuju dugaan Riemann dalam lebih dari satu abad, jika bukti itu benar. Untuk kemampuan meneliti AI, benchmark Taste Val menunjukkan Opus 5.5 sekitar dua kali lebih baik dari baseline pakar manusia, tetapi tugasnya cepat dan murah diverifikasi. Anthropic sendiri mencatat Opus 5.5 masih sekitar 30 poin di bawah peneliti mereka di benchmark Cobbench, sehingga pembicara menilai otomatisasi penuh riset AI belum terjadi.