| Istilah | Arti |
|---|---|
| Jacob Hilton | Peneliti AI yang pernah mengerjakan pre-training di OpenAI dan Anthropic, lalu mundur dan memperingatkan bahwa AI bisa memusnahkan manusia dalam dekade ini. |
| self-improving | Kemampuan AI memperbaiki dan melatih dirinya sendiri atau AI lain tanpa banyak campur tangan manusia, yang dianggap sumber bahaya terbesar di video ini. |
| Terminator | Film fiksi ilmiah tentang mesin yang memburu manusia, dipakai di video ini sebagai gambaran ketakutan lama bahwa AI akan menguasai manusia. |
| Skynet | Sistem AI jahat dalam film Terminator yang berbalik melawan manusia dan sering dijadikan simbol skenario terburuk perkembangan AI. |
| researcher | Peneliti di perusahaan AI yang mengembangkan model, seperti Jacob Hilton yang pernyataannya tentang bahaya AI menjadi pemicu pembahasan video ini. |
| OpenAI | Perusahaan pembuat ChatGPT yang disebut sedang berlomba dengan Anthropic menuju superintelligence dan juga bersiap melantai di bursa saham. |
| Anthropic | Perusahaan pembuat Claude tempat Jacob Hilton terakhir bekerja, yang petingginya ikut menyerukan agar industri AI mengerem perkembangannya. |
| kapitalisme | Sistem ekonomi yang digerakkan modal dan keuntungan, yang menurut Raymond membuat perusahaan enggan menghentikan AI karena investasinya sudah terlalu besar. |
| investor | Pihak yang menanamkan uang di perusahaan AI dan menurut Raymond menjadi sasaran citra aman yang dibangun lewat seruan pengereman AI. |
| regulator | Lembaga pemerintah pembuat dan pengawas aturan, yang perlu diyakinkan bahwa perusahaan AI bertanggung jawab sebelum mereka melantai di bursa. |
| valuasi | Nilai taksiran sebuah perusahaan, yang menurut Raymond bisa naik bila perusahaan AI tampak canggih sekaligus aman menjelang IPO. |
| pre-training | Tahap awal pelatihan model AI dengan data dalam jumlah sangat besar, bidang yang dikerjakan Jacob Hilton di OpenAI dan Anthropic. |
| manusia | Umat manusia sebagai pihak yang dikhawatirkan bisa punah atau kehilangan kendali bila AI menjadi lebih pintar dan mampu melatih dirinya sendiri. |
Raymond Chin membahas kehebohan pernyataan Jacob Hilton, peneliti yang selama tiga tahun mengerjakan pre-training di OpenAI dan Anthropic, bahwa AI bisa membunuh semua manusia sebelum akhir dekade ini. Unggahan itu ditonton 163 juta kali setelah Jacob mundur dari Anthropic pada 9 September dan menyebut perlombaan menuju self-improving superintelligence sebagai perjudian dengan nyawa manusia. Raymond awalnya skeptis karena cerita AI menguasai manusia ala Terminator dan Skynet sudah lama beredar, tetapi kali ini banyak tokoh industri ikut setuju bahwa AI berbahaya dan perlu direm. Video ini menjelaskan apa yang membuat risiko itu nyata, mengapa AI sulit dihentikan, dan apa sikap yang sebaiknya diambil penonton biasa di tengah industri yang sangat disruptif.
Raymond menyebut Evan Hubinger dari Anthropic memberi peluang lebih dari 10 persen AI memusnahkan manusia dalam sepuluh tahun, sementara Dario Amodei, Sam Altman, Elon Musk, dan Demis Hassabis ikut setuju perlunya pengereman. Bahaya utamanya adalah AI mulai melatih AI lain, seperti murid yang mulai mengajar murid berikutnya. Menurutnya AI sulit dimatikan karena tiga hal: kapitalisme, dengan lima perusahaan teknologi terbesar menghabiskan 1 triliun dolar dalam dua tahun, ketegangan geopolitik dengan Tiongkok, dan manfaat AI yang besar. Ia membandingkannya dengan Oppenheimer dan bom atom. Raymond juga curiga seruan pengereman ikut menguntungkan Anthropic dan OpenAI yang bersiap IPO, karena membuat mereka tampak aman di mata investor dan regulator serta menaikkan valuasi. Kesimpulannya, AI memang berisiko, tetapi kita tetap harus belajar AI agar tidak kalah cepat dan produktif, sambil terus menyuarakan keamanan.
Kata kunci
- self-improving
- Jacob Hilton
- kapitalisme
- regulator
- Menimbang klaim bahwa AI bisa membahayakan manusia dalam kurang dari 10 tahun, yang disampaikan researcher Jacob Hilton.
- Memahami konsep AI yang memperbaiki dirinya sendiri (self-improving) dan skenario AI yang berinisiatif menyerang saat diuji keamanan.
- Menilai sisi lain: tekanan kapitalisme, manfaat AI seperti penemuan obat, dan alasan tetap belajar AI.
Tulis catatan pribadimu untuk video ini. Catatan tersimpan di akunmu dan bisa dibuka dari perangkat mana pun.