MIT 6.S087: Foundation Models & Generative AI. ETHICS
| Istilah | Arti |
|---|---|
| ethics | Cabang filsafat tentang apa yang seharusnya dilakukan dan mana yang benar, yang menjadi fokus utama kuliah ini. |
| regulation | Aturan resmi dari pemerintah atau lembaga untuk membatasi dan mengawasi pengembangan serta penggunaan AI. |
| bias and discrimination | Kecenderungan model memperlakukan kelompok tertentu secara tidak adil, misalnya karena data latihnya sudah berat sebelah. |
| robustness | Kemampuan sebuah sistem bertahan saat menghadapi perubahan atau kejadian tak terduga, yang dibahas sebagai hal yang sulit dicapai. |
| fragile | Sifat sistem yang mudah rusak saat terjadi perubahan, misalnya ketika satu model AI dipakai oleh semua orang sekaligus. |
| stakeholders | Pihak yang punya kepentingan dan untung atau rugi dari AI, seperti perusahaan dan manajemennya, yang menurut pembicara harus bertanggung jawab. |
| transparent | Terbuka dan mudah dipahami cara kerjanya, yang sering dituntut dari AI tetapi menurut pembicara bukan satu-satunya masalah. |
| European | Berkaitan dengan Eropa, dipakai di video untuk membandingkan regulasi AI Uni Eropa dengan Amerika dan Tiongkok. |
| unintended | Akibat yang tidak diperkirakan sejak awal, dan sering berdampak besar karena masyarakat belum siap menghadapinya. |
| morality | Pertimbangan tentang benar dan salah dalam perilaku, yang menurut pembicara sulit diterjemahkan ke dalam kode. |
| Foundation models | Model AI berskala besar yang menjadi inti pembahasan kuliah ini karena dampaknya yang makin besar. |
| generative AI | AI yang menghasilkan konten baru seperti teks, gambar, dan suara, termasuk deepfake yang diperlihatkan dalam kuliah. |
Video ini berisi kuliah MIT 6.S087 tentang etika dan regulasi model fondasi serta AI generatif, dibawakan oleh Rickard Brüel Gabrielsson. Pertanyaan pembukanya sederhana tetapi sulit: jika AI mencelakai seseorang, siapa yang harus disalahkan? Pembicara menilai perusahaan, lembaga pengatur, atau pemangku kepentingan di balik AI lebih tepat dimintai pertanggungjawaban daripada AI itu sendiri, karena memperlakukan AI seolah punya kehendak justru membuat manusia di baliknya bisa bersembunyi. Ia mencontohkan OpenAI, yang kini punya Microsoft sebagai pemegang saham 50 persen dan pernah mengalami CEO-nya dicopot lalu kembali, sebagai bukti sulitnya melihat siapa yang sebenarnya berkepentingan. Kuliah ini penting bagi penonton karena ancaman AI, seperti misinformasi, deepfake, bias, dan sentralisasi, menyentuh kehidupan serta demokrasi kita semua.
Isi konkret kuliah dimulai dari daftar ancaman: manipulasi informasi, deepfake, bias, kurangnya transparansi, sentralisasi, hilangnya pekerjaan, dan akibat yang tak terduga. Pembicara mengingatkan bahwa Cambridge Analytica memakai data Facebook untuk menargetkan perilaku pemilih, dan kisah kapal USS Maine di abad ke-19 menunjukkan berita yang keliru ikut mendorong Amerika masuk perang. Untuk demonstrasi, ia memperdengarkan rekaman hasil generator yang meniru suaranya, termasuk aksen Swedia. Pada bagian bias, ia memakai contoh asuransi Swedia dan Denmark, lalu menjelaskan bahwa menghapus fitur sensitif tidak otomatis menghilangkan bias, sementara kondisi Lipschitz dipakai sebagai salah satu cara mengukur keadilan secara matematis. Ia membandingkan regulasi: Uni Eropa fokus pada dampak model, Amerika pada besar komputasi, dan Tiongkok pada registrasi algoritma. Ia menilai regulasi Eropa terlalu birokratis, lalu menutup dengan pesan dari Nassim Taleb bahwa sistem yang tahan banting harus diuji seiring waktu dan dibiarkan gagal dalam skala kecil.
Kata kunci
- ethics
- regulation
- robustness
- transparent
- Mengikuti kuliah tentang etika dan regulasi foundation models dan generative AI: bagaimana mengembangkannya dengan aman dan bertanggung jawab, apa yang bisa diatur, dan bagaimana menyeimbangkan inovasi dan regulasi.
- Membahas bias dan diskriminasi, manipulasi dan keterlibatan, ketahanan (robustness) versus kerapuhan (fragile), dampak tak terduga, dan keterbukaan.
- Membandingkan pendekatan regulasi di Amerika, Eropa, dan Tiongkok, serta sesi panel setelahnya.
Tulis catatan pribadimu untuk video ini. Catatan tersimpan di akunmu dan bisa dibuka dari perangkat mana pun.