Modul 40

Dasar full-stack AI engineering

Bagian 5 · Dunia AI Engineer

EngineerPerishable

Istilah sulit di video ini dan artinya
Istilah	Arti
customer support	Layanan yang menjawab pertanyaan dan keluhan pelanggan, dan di video ini prosesnya diotomatiskan dengan AI yang membaca serta membalas email pelanggan.
knowledge base	Kumpulan dokumen aturan dan informasi produk yang menjadi sumber jawaban agent, di sini berupa berkas markdown yang dimuat ke tabel database dan dicari per bagian.
Gmail	Layanan email Google yang dipakai di video ini sebagai kotak masuk dukungan pelanggan, diakses lewat Gmail API memakai akun dummy agar email pribadi tetap aman.
FastAPI	Framework Python untuk membuat aplikasi web dan endpoint API, yang di video ini menjadi mesin backend penghubung aplikasi, database, dan dashboard.
Supabase	Platform database berbasis PostgreSQL dengan tampilan dan alat bantu yang praktis, dipakai untuk menyimpan tabel events, tickets, messages, dan knowledge base.
Docker	Alat yang membungkus kode beserta instruksi menjalankannya ke dalam container agar aplikasi berjalan sama di laptop maupun di server Linux.
VPS	Virtual private server, yaitu server sewaan milik sendiri di pusat data, yang di video ini disewa dari Hostinger untuk menjalankan aplikasi secara terus-menerus.
SSH key	Pasangan kunci rahasia untuk masuk ke server dari terminal secara aman tanpa mengetik kata sandi, dibuat di laptop lalu didaftarkan ke VPS.
firewall rule	Aturan yang menentukan lalu lintas jaringan mana yang boleh masuk, di sini hanya koneksi SSH lewat port 22 dari alamat IP pemilik yang diizinkan.
dashboard	Halaman admin berbasis React dan shadcn tempat tim melihat events, tiket, dan pesan serta mengubah isi knowledge base tanpa perlu deployment ulang.
escalate	Meneruskan sebuah tiket ke staf manusia alih-alih dijawab AI, misalnya saat pelanggan marah, meminta refund, melampirkan file, atau informasinya kurang.
evaluations	Rangkaian uji otomatis yang membandingkan keluaran pipeline AI dengan jawaban yang diharapkan, dipakai untuk mengukur dan memperbaiki kualitas agent.

Dalam video ini Dave Ebbelaar, pendiri perusahaan pengembangan AI Datalumina, mengajarkan AI engineering dengan membangun sistem customer support berbasis AI secara utuh dari awal sampai produksi. Pelanggan mengirim email, agent membaca thread, mencari jawaban di knowledge base, lalu membuat balasan, sedangkan kasus yang tidak pasti dieskalasi ke manusia lewat dashboard admin. Contohnya adalah toko fiktif Harbor and Pine yang menjual papan dayung tiup dan rak bongkar pasang di Amazon, meniru proyek klien sungguhan yang menurut Dave sudah membantu enam perusahaan. Ia menekankan bahwa kebanyakan tutorial hanya membahas panggilan API LLM, sementara video ini menempuh seluruh jalur full stack: akses Gmail, API dengan FastAPI, database Supabase, pipeline AI dengan Pydantic AI, evaluasi, deployment ke server dengan Docker, dan dashboard React. Hasil akhirnya adalah proyek portofolio yang bisa ditunjukkan saat wawancara kerja atau ditawarkan kepada bisnis yang masih menangani dukungan pelanggan secara manual.

Langkahnya dimulai dari proyek Python dengan uv dan endpoint health di FastAPI, lalu bagian tersulit, yaitu menyiapkan Gmail API di Google Cloud Console dengan layar persetujuan, test user, scope gmail.modify, dan refresh token yang berlaku tujuh hari. Sebuah poller memeriksa kotak masuk tiap 30 sampai 60 detik, guards mencegah balasan berulang, dan Supabase menyimpan events sebagai catatan, tickets, dan messages. Pipeline AI memakai Claude Haiku untuk klasifikasi, Claude Sonnet dengan tools untuk mencari knowledge base, aturan bisnis dalam kode, serta fungsi decide yang mengeskalasi bila ada lampiran, pelanggan butuh manusia, atau balasan menjanjikan tindakan. Golden data set dan Pydantic Evals mengukur akurasi sampai lolos 100 persen tanpa overfitting. Server KVM2 di Hostinger diamankan dengan SSH key, firewall rule, deploy key GitHub, dan pembatasan IP Supabase, lalu dijalankan dengan Docker Compose. Dashboard diakses lewat tunnel SSH, dan langkah lanjutnya adalah domain, Caddy, HTTPS, serta login yang lebih ketat.

Kata kunci

AI engineering
customer support
FastAPI
Docker

Istilah

Arti

customer support

Layanan yang menjawab pertanyaan dan keluhan pelanggan, dan di video ini prosesnya diotomatiskan dengan AI yang membaca serta membalas email pelanggan.

knowledge base

Kumpulan dokumen aturan dan informasi produk yang menjadi sumber jawaban agent, di sini berupa berkas markdown yang dimuat ke tabel database dan dicari per bagian.

Gmail

Layanan email Google yang dipakai di video ini sebagai kotak masuk dukungan pelanggan, diakses lewat Gmail API memakai akun dummy agar email pribadi tetap aman.

FastAPI

Framework Python untuk membuat aplikasi web dan endpoint API, yang di video ini menjadi mesin backend penghubung aplikasi, database, dan dashboard.

Supabase

Platform database berbasis PostgreSQL dengan tampilan dan alat bantu yang praktis, dipakai untuk menyimpan tabel events, tickets, messages, dan knowledge base.

Docker

Alat yang membungkus kode beserta instruksi menjalankannya ke dalam container agar aplikasi berjalan sama di laptop maupun di server Linux.

VPS

Virtual private server, yaitu server sewaan milik sendiri di pusat data, yang di video ini disewa dari Hostinger untuk menjalankan aplikasi secara terus-menerus.

SSH key

Pasangan kunci rahasia untuk masuk ke server dari terminal secara aman tanpa mengetik kata sandi, dibuat di laptop lalu didaftarkan ke VPS.

firewall rule

Aturan yang menentukan lalu lintas jaringan mana yang boleh masuk, di sini hanya koneksi SSH lewat port 22 dari alamat IP pemilik yang diizinkan.

dashboard

Halaman admin berbasis React dan shadcn tempat tim melihat events, tiket, dan pesan serta mengubah isi knowledge base tanpa perlu deployment ulang.

escalate

Meneruskan sebuah tiket ke staf manusia alih-alih dijawab AI, misalnya saat pelanggan marah, meminta refund, melampirkan file, atau informasinya kurang.

evaluations

Rangkaian uji otomatis yang membandingkan keluaran pipeline AI dengan jawaban yang diharapkan, dipakai untuk mengukur dan memperbaiki kualitas agent.