Partha Ranganathan - From Unicorns to Centaurs: Powering the AI Moonshot

AdvancePerishable

Istilah sulit di video ini dan artinya
Istilah	Arti
TPUs	Tensor Processing Units, chip akselerator buatan Google yang dirancang khusus untuk beban kerja AI dan kini sudah mencapai sekitar delapan generasi.
accelerators	Chip khusus yang mempercepat jenis pekerjaan tertentu seperti AI atau video, yang menurut Partha paling sukses bila dirancang demi kapabilitas baru, bukan sekadar efisiensi.
hardware	Perangkat keras fisik seperti chip, server, jaringan, dan sistem daya yang menjalankan model AI, yang di video ini dirancang bersama perangkat lunaknya.
opportunities	Peluang riset dan inovasi yang berulang kali ditawarkan Partha kepada mahasiswa, misalnya efisiensi pusat data, desain modular, dan sistem yang mengutamakan agen AI.
data center	Gedung berisi ribuan server, jaringan, sistem daya, dan pendingin tempat model AI dilatih dan dijalankan, yang biasanya dirancang untuk umur sekitar 15 tahun.
efficiency	Kemampuan menghasilkan kerja yang sama dengan energi, biaya, atau emisi lebih sedikit, misalnya ringkasan AI di Search yang menjadi sekitar 20 kali lebih hemat energi.
responsible AI	Pendekatan memakai AI secara bertanggung jawab dengan memperhatikan ujaran kebencian, bahaya, halusinasi, kualitas informasi, keadilan, dan kemampuan menjelaskan hasil.
alpha genome	Model AI Google untuk genom manusia yang memetakan dampak perubahan satu huruf DNA dan di video ini membantu menemukan penyebab genetik kasus epilepsi anak yang langka.
carbon	Emisi karbon dari pusat data yang dibagi menjadi scope 1 dari bahan bakar di lokasi, scope 2 dari listrik, dan scope 3 dari karbon yang tertanam dalam perangkat.
cooling	Sistem pendingin yang membuang panas dari chip dan server, termasuk pendinginan cair skala gigawatt di Google dan pengaturan pendinginan yang dioptimalkan dengan AI.
unicorns	Sebutan Partha untuk bagian sistem bagi AI, merujuk pada banyak perusahaan rintisan chip AI bernilai miliaran dolar yang muncul setelah keberhasilan TPU.
centaurs	Istilah dari Garry Kasparov untuk gabungan manusia dan AI yang bekerja sama, dipakai Partha untuk bagian tentang AI yang membantu merancang sistem komputer.
cyborgs	Sebutan Partha untuk tahap masa depan ketika AI hadir menyeluruh dalam pekerjaan, misalnya agen yang merancang arsitektur chip dan membantu riset ilmiah.

Dalam kuliah tamu di UC Berkeley ini, Partha Ranganathan, VP dan technical fellow di Google, membahas bagaimana infrastruktur komputasi harus berubah untuk menopang ledakan AI, yang ia sebut sebagai perlombaan antariksa era kita. Masalah utamanya sederhana tetapi berat: ukuran model tumbuh sekitar sepuluh kali setahun, sementara kemampuan komputasi menurut hukum Moore hanya berlipat dua setiap dua sampai tiga tahun dan kini pun melambat. Jika peneliti AI adalah penjelajah antariksa, orang sistem adalah pembuat mesin roketnya. Ceramah dibagi menjadi prolog tentang era kecerdasan serta tiga bagian yang ia namai unicorns untuk sistem bagi AI, centaurs untuk AI bagi sistem, dan cyborgs untuk masa depan yang serba AI-native. Benang merahnya adalah co-design, yaitu merancang perangkat keras, perangkat lunak, model, dan kerja sama manusia dengan AI secara bersamaan, yang ia sebut keterampilan dan peluang terpenting bagi mahasiswa dan peneliti sistem.

Bagian unicorns menjelaskan tumpukan vertikal Google mulai dari TPU, CPU ARM khusus, jaringan optik, dan pendinginan cair hingga AI Hypercomputer, dengan peningkatan kinerja 10 sampai 100 kali. Contohnya, efisiensi ringkasan AI di Search naik 95 persen dalam 12 bulan, dan lonjakan daya saat training dihaluskan lewat co-design di semua lapisan. Ia juga menekankan kelincahan desain dan bahwa akselerator yang sukses lahir dari kebutuhan kapabilitas, bukan sekadar efisiensi, seperti akselerator video yang memberinya Emmy teknis. Bagian centaurs memberi contoh AI untuk place and route chip yang memangkas waktu dari 6 sampai 8 minggu menjadi sekitar 24 jam, prefetching memori 2 sampai 4 kali lebih baik, pendinginan pusat data, dan kode yang lebih cepat. Bagian cyborgs memaparkan agen berbasis AlphaEvolve yang menghasilkan kebijakan setara juara dalam 18 hari meski sempat melakukan reward hacking pada simulator, AI co-scientist, serta AlphaGenome yang membantu menemukan penyebab genetik kasus epilepsi anak yang langka. Dalam tanya jawab, ia menegaskan AI adalah tuas dan penilaian manusia adalah titik tumpunya.

Kata kunci

TPUs
accelerators
data center
responsible AI

Istilah

Arti

TPUs

Tensor Processing Units, chip akselerator buatan Google yang dirancang khusus untuk beban kerja AI dan kini sudah mencapai sekitar delapan generasi.

accelerators

Chip khusus yang mempercepat jenis pekerjaan tertentu seperti AI atau video, yang menurut Partha paling sukses bila dirancang demi kapabilitas baru, bukan sekadar efisiensi.

hardware

Perangkat keras fisik seperti chip, server, jaringan, dan sistem daya yang menjalankan model AI, yang di video ini dirancang bersama perangkat lunaknya.

opportunities

Peluang riset dan inovasi yang berulang kali ditawarkan Partha kepada mahasiswa, misalnya efisiensi pusat data, desain modular, dan sistem yang mengutamakan agen AI.

data center

Gedung berisi ribuan server, jaringan, sistem daya, dan pendingin tempat model AI dilatih dan dijalankan, yang biasanya dirancang untuk umur sekitar 15 tahun.

efficiency

Kemampuan menghasilkan kerja yang sama dengan energi, biaya, atau emisi lebih sedikit, misalnya ringkasan AI di Search yang menjadi sekitar 20 kali lebih hemat energi.

responsible AI

Pendekatan memakai AI secara bertanggung jawab dengan memperhatikan ujaran kebencian, bahaya, halusinasi, kualitas informasi, keadilan, dan kemampuan menjelaskan hasil.

alpha genome

Model AI Google untuk genom manusia yang memetakan dampak perubahan satu huruf DNA dan di video ini membantu menemukan penyebab genetik kasus epilepsi anak yang langka.

carbon

Emisi karbon dari pusat data yang dibagi menjadi scope 1 dari bahan bakar di lokasi, scope 2 dari listrik, dan scope 3 dari karbon yang tertanam dalam perangkat.

cooling

Sistem pendingin yang membuang panas dari chip dan server, termasuk pendinginan cair skala gigawatt di Google dan pengaturan pendinginan yang dioptimalkan dengan AI.

unicorns

Sebutan Partha untuk bagian sistem bagi AI, merujuk pada banyak perusahaan rintisan chip AI bernilai miliaran dolar yang muncul setelah keberhasilan TPU.

centaurs

Istilah dari Garry Kasparov untuk gabungan manusia dan AI yang bekerja sama, dipakai Partha untuk bagian tentang AI yang membantu merancang sistem komputer.

cyborgs

Sebutan Partha untuk tahap masa depan ketika AI hadir menyeluruh dalam pekerjaan, misalnya agen yang merancang arsitektur chip dan membantu riset ilmiah.