Susan Athey - Causal Inference and Decompositions using AI Models

AdvanceEvergreen

Istilah sulit di video ini dan artinya
Istilah	Arti
causal	Bersifat sebab-akibat, yaitu menanyakan apakah suatu faktor seperti program pelatihan benar-benar mengubah hasil, bukan hanya berkorelasi dengannya.
regression	Metode statistik yang memodelkan hubungan antara variabel hasil dan variabel penjelas, yang di video ini menjadi pembanding standar para ekonom untuk memprediksi upah.
wages	Upah yang diterima pekerja, yang di video ini menjadi variabel utama untuk diprediksi dari riwayat pekerjaan dan untuk mengukur kesenjangan gender.
embedding	Representasi data berdimensi tinggi seperti riwayat pekerjaan menjadi vektor angka berdimensi rendah, sehingga riwayat yang mirip mendapat vektor yang berdekatan.
fine tuning	Melanjutkan pelatihan foundation model pada data kecil yang lebih khusus, sekaligus bisa mengganti fungsi objektifnya, misalnya dari prediksi pekerjaan berikutnya menjadi prediksi upah.
decomposition	Teknik akuntansi statistik yang memecah selisih hasil antara dua kelompok menjadi bagian yang dijelaskan perbedaan karakteristik dan bagian yang tidak dijelaskan.
double machine learning	Nama populer untuk augmented inverse propensity weighting, metode yang menggabungkan model hasil dan pembobotan propensitas dengan cross fitting agar estimasi lebih andal.
doubly robust	Sifat estimator yang memakai model hasil sekaligus model pembobotan sehingga kesalahan pada salah satunya dapat saling dikoreksi dan hasilnya tetap konsisten.
econometrics	Cabang ekonomi yang memakai statistik untuk mengestimasi hubungan ekonomi, termasuk efek kausal dan elastisitas, dan menjadi bidang keahlian Susan Athey.
gender	Jenis kelamin laki-laki atau perempuan, yang di video ini menjadi variabel pembanding untuk menghitung kesenjangan upah dan contoh atribut prompt yang diubah.
propensity	Peluang seseorang masuk ke suatu kelompok berdasarkan karakteristiknya, dipakai untuk membobot ulang data agar distribusi riwayat kedua kelompok sebanding.
data set	Kumpulan data untuk melatih atau menguji model, misalnya 23 juta resume hasil pembelian dan survei longitudinal kecil yang memuat data upah.

Dalam kuliah tamu di UC Berkeley ini, ekonom Stanford Susan Athey menjelaskan cara memakai foundation model, embedding, dan fine tuning untuk analisis kausal dan dekomposisi di bidang ekonomi tenaga kerja. Pertanyaan utamanya adalah bagaimana memprediksi upah dan menjelaskan selisih upah antara laki-laki dan perempuan ketika riwayat pekerjaan seseorang terlalu rumit untuk diringkas dengan beberapa variabel buatan peneliti. Athey menilai fine tuning sangat berharga bagi ilmuwan dan akademisi karena orang lain yang menanggung biaya pelatihan model besar, sementara peneliti cukup mengganti fungsi objektif untuk tugas hilirnya sendiri. Ia juga memperkenalkan dekomposisi, alat deskriptif yang populer di ekonomi dan sosiologi, dan menunjukkan bahwa statistik estimasinya sama dengan estimasi efek kausal. Sepanjang kuliah ia memberi petunjuk bagaimana ide ini bisa dipakai untuk memahami large language model, misalnya membandingkan jawaban model ketika satu atribut prompt seperti gender diubah, serta kaitannya dengan off policy evaluation dalam reinforcement learning.

Timnya melatih model transformer pada 23 juta resume dengan sekitar 330 jenis pekerjaan, memperlakukan urutan pekerjaan seperti urutan kata, lalu melakukan fine tuning pada survei longitudinal yang memuat upah. Model ini menjelaskan sekitar 52 persen variasi upah pada data uji, dibanding sekitar 42 persen untuk regresi standar ekonom. Untuk dekomposisi kesenjangan upah gender, Athey memakai double machine learning dan menambahkan syarat bahwa embedding harus menghilangkan omitted variable bias, lalu melatihnya dengan objektif R learner, yaitu regresi residual atas residual. Hasilnya, objektif kausal itu justru juga meningkatkan akurasi prediksi. Pohon regresi atas embedding menunjukkan bahwa kategori manajer menyembunyikan kelompok berbeda: manajer dengan riwayat kasir dan ibu rumah tangga 93 persen perempuan dan bergaji rendah, sedangkan yang berlatar pengembang perangkat lunak 11 persen perempuan dan bergaji tinggi. Analisis menurut usia menunjukkan perempuan sering berada di pekerjaan yang lebih menjanjikan tetapi mengalami transisi yang lebih buruk. Dalam tanya jawab, Athey mengusulkan berbagi foundation model hasil fine tuning sebagai bahan sains terbuka, dengan privasi sebagai tantangan utama.

Kata kunci

double machine learning
embedding
fine tuning
decomposition

Istilah

Arti

causal

Bersifat sebab-akibat, yaitu menanyakan apakah suatu faktor seperti program pelatihan benar-benar mengubah hasil, bukan hanya berkorelasi dengannya.

regression

Metode statistik yang memodelkan hubungan antara variabel hasil dan variabel penjelas, yang di video ini menjadi pembanding standar para ekonom untuk memprediksi upah.

wages

Upah yang diterima pekerja, yang di video ini menjadi variabel utama untuk diprediksi dari riwayat pekerjaan dan untuk mengukur kesenjangan gender.

embedding

Representasi data berdimensi tinggi seperti riwayat pekerjaan menjadi vektor angka berdimensi rendah, sehingga riwayat yang mirip mendapat vektor yang berdekatan.

fine tuning

Melanjutkan pelatihan foundation model pada data kecil yang lebih khusus, sekaligus bisa mengganti fungsi objektifnya, misalnya dari prediksi pekerjaan berikutnya menjadi prediksi upah.

decomposition

Teknik akuntansi statistik yang memecah selisih hasil antara dua kelompok menjadi bagian yang dijelaskan perbedaan karakteristik dan bagian yang tidak dijelaskan.

double machine learning

Nama populer untuk augmented inverse propensity weighting, metode yang menggabungkan model hasil dan pembobotan propensitas dengan cross fitting agar estimasi lebih andal.

doubly robust

Sifat estimator yang memakai model hasil sekaligus model pembobotan sehingga kesalahan pada salah satunya dapat saling dikoreksi dan hasilnya tetap konsisten.

econometrics

Cabang ekonomi yang memakai statistik untuk mengestimasi hubungan ekonomi, termasuk efek kausal dan elastisitas, dan menjadi bidang keahlian Susan Athey.

gender

Jenis kelamin laki-laki atau perempuan, yang di video ini menjadi variabel pembanding untuk menghitung kesenjangan upah dan contoh atribut prompt yang diubah.

propensity

Peluang seseorang masuk ke suatu kelompok berdasarkan karakteristiknya, dipakai untuk membobot ulang data agar distribusi riwayat kedua kelompok sebanding.

data set

Kumpulan data untuk melatih atau menguji model, misalnya 23 juta resume hasil pembelian dan survei longitudinal kecil yang memuat data upah.