Bagaimana model kecerdasan buatan dilatih

Pelatihan model kecerdasan buatan merupakan salah satu tantangan paling kompleks dalam pengembangan teknologi kontemporer. Jauh lebih dari sekadar persoalan algoritmik, pelatihan model yang efektif membutuhkan pendekatan metodis dan multidisiplin yang mengintegrasikan data, ilmu data, pengetahuan domain, dan rekayasa perangkat lunak. Seperti yang ditekankan oleh James Luke dalam bukunya yang mendasar "Beyond Algorithms: Delivering AI for Business", keberhasilan implementasi AI jauh lebih bergantung pada manajemen data dan perancangan sistemik daripada algoritma itu sendiri. Lanskap ini berkembang pesat, dengan inovasi seperti model DeepSeek-R1 yang sedang mendefinisikan ulang biaya dan aksesibilitas.

Landasan: pengumpulan dan pengelolaan data

Kualitas daripada kuantitas

Berlawanan dengan apa yang sering dipercaya, kuantitas data tidak selalu menjadi faktor penentu keberhasilan. Kualitas dan keterwakilan data jauh lebih penting. Dalam konteks ini, sangat penting untuk mengintegrasikan berbagai sumber:

• Data milik sendiri: Dikumpulkan dan dianonimkan secara etis dari implementasi yang sudah ada
• Data berlisensi: Berasal dari penyedia tepercaya yang memenuhi standar kualitas yang ketat
• Set data open source: Diverifikasi dengan cermat untuk menjamin keragaman dan akurasi
• Data sintetis: Dihasilkan secara artifisial untuk menutup celah dan mengatasi masalah privasi

Integrasi ini menciptakan basis pelatihan komprehensif yang menangkap skenario dunia nyata dengan tetap mempertahankan standar etika dan privasi.

Tantangan persiapan data

Proses 'data wrangling' menyumbang hingga 80 persen dari upaya yang diperlukan dalam proyek kecerdasan buatan. Fase ini melibatkan:

• Pembersihan data: Menghilangkan inkonsistensi, duplikasi, dan nilai anomali
• Transformasi data: Mengonversi ke format yang sesuai untuk pemrosesan
• Integrasi data: Menggabungkan sumber yang berbeda, yang sering menggunakan skema dan format yang tidak kompatibel
• Penanganan data yang hilang: Strategi seperti imputasi statistik atau penggunaan data proxy

Seperti yang ditekankan oleh Hilary Packer, CTO American Express: "Momen aha! bagi kami, sejujurnya, adalah data. Anda bisa membuat pilihan model terbaik di dunia... tetapi data adalah kuncinya. Validasi dan akurasi adalah cawan suci saat ini dalam AI generatif."

Arsitektur model: ukuran yang tepat

Pemilihan arsitektur model harus dipandu oleh sifat spesifik dari masalah yang akan dipecahkan, dan bukan oleh kecenderungan atau preferensi pribadi. Jenis masalah yang berbeda memerlukan pendekatan yang berbeda:

• Model bahasa berbasis transformer untuk tugas yang membutuhkan pemahaman bahasa yang mendalam
• Jaringan saraf konvolusional untuk pengenalan gambar dan pola
• Jaringan saraf graf untuk analisis hubungan kompleks antar entitas
• Pembelajaran penguatan untuk masalah optimasi dan pengambilan keputusan
• Arsitektur hibrida yang menggabungkan beberapa pendekatan untuk kasus penggunaan yang kompleks

Optimalisasi arsitektur memerlukan evaluasi sistematis antara konfigurasi yang berbeda, dengan fokus pada keseimbangan antara kinerja dan kebutuhan komputasi, sebuah aspek yang semakin relevan dengan munculnya model seperti DeepSeek-R1 yang menawarkan kemampuan penalaran tingkat lanjut dengan biaya yang jauh lebih rendah.

Metodologi pelatihan tingkat lanjut

Penyulingan model

Distilasi telah muncul sebagai alat yang sangat kuat dalam ekosistem AI saat ini. Proses ini memungkinkan untuk membuat model yang lebih kecil dan lebih spesifik yang mewarisi kemampuan penalaran model yang lebih besar dan lebih kompleks, seperti DeepSeek-R1.

Seperti yang ditunjukkan dalam kasus DeepSeek, perusahaan tersebut telah menyuling kemampuan penalarannya ke beberapa model yang lebih kecil, termasuk model open-source dari keluarga Llama milik Meta dan keluarga Qwen milik Alibaba. Model-model yang lebih kecil ini kemudian dapat dioptimalkan untuk tugas-tugas spesifik, mempercepat tren menuju model yang cepat dan terspesialisasi.

Sam Witteveen, pengembang pembelajaran mesin, mengamati: "Kita mulai memasuki dunia di mana orang menggunakan banyak model. Mereka tidak hanya menggunakan satu model sepanjang waktu." Ini termasuk model tertutup berbiaya rendah seperti Gemini Flash dan GPT-4o Mini, yang "bekerja dengan sangat baik untuk 80 persen kasus penggunaan."

Pembelajaran multi-tugas

Alih-alih melatih model secara terpisah untuk keterampilan yang terkait, pembelajaran multi-tugas memungkinkan model untuk berbagi pengetahuan di antara fungsi yang berbeda:

• Model mengoptimalkan secara bersamaan untuk beberapa tujuan yang saling terkait
• Fungsi dasar mendapat manfaat dari paparan yang lebih luas terhadap berbagai tugas
• Kinerja meningkat di semua tugas, terutama yang memiliki data terbatas
• Efisiensi komputasi meningkat berkat berbagi komponen

Penyempurnaan yang diawasi (SFT)

Untuk perusahaan yang beroperasi di domain yang sangat spesifik, di mana informasi tidak tersedia secara luas di web atau di buku-buku yang biasanya digunakan untuk melatih model bahasa, supervised fine-tuning (SFT) adalah pilihan yang efektif.

DeepSeek menunjukkan bahwa sangat mungkin untuk mencapai hasil yang baik dengan 'ribuan' set data pertanyaan dan jawaban. Sebagai contoh, insinyur IBM, Chris Hay, menunjukkan bagaimana ia membuat model kecil menggunakan set data khusus matematika miliknya dan memperoleh jawaban yang sangat cepat yang melebihi performa model o1 OpenAI pada tugas yang sama.

Pembelajaran Penguatan (RL)

Perusahaan yang ingin melatih model dengan penyelarasan lebih lanjut terhadap preferensi tertentu - misalnya, membuat chatbot dukungan pelanggan berempati tetapi ringkas - akan ingin menerapkan teknik pembelajaran penguatan (RL). Pendekatan ini sangat berguna jika perusahaan ingin chatbot-nya menyesuaikan nada dan rekomendasinya berdasarkan umpan balik pengguna.

Generasi Pengambilan-Penambahan (RAG)

Bagi sebagian besar perusahaan, Retrieval-Augmented Generation (RAG) adalah rute yang paling sederhana dan aman. Ini adalah proses yang relatif mudah yang memungkinkan organisasi untuk mengaitkan model mereka dengan data eksklusif yang terdapat dalam database mereka, memastikan bahwa output yang dihasilkan akurat dan spesifik untuk setiap domain.

Pendekatan ini juga membantu mengatasi beberapa masalah halusinasi yang terkait dengan model seperti DeepSeek, yang saat ini berhalusinasi dalam 14% kasus dibandingkan dengan 8% pada model o3 milik OpenAI, menurut sebuah studi yang dilakukan oleh Vectara.

Kombinasi distilasi model dan RAG adalah letak keajaiban bagi sebagian besar perusahaan, yang telah menjadi sangat mudah diterapkan, bahkan bagi mereka yang memiliki keterampilan terbatas dalam ilmu data atau pemrograman.

Evaluasi dan penyempurnaan: di luar metrik akurasi

AI yang efektif tidak hanya diukur dari segi akurasi mentah, tetapi membutuhkan kerangka kerja evaluasi yang komprehensif yang mempertimbangkan:

• Akurasi fungsional: Frekuensi model menghasilkan hasil yang benar
• Ketahanan: Konsistensi kinerja dengan input dan kondisi yang bervariasi
• Keadilan: Kinerja yang konsisten di berbagai kelompok pengguna dan skenario
• Kalibrasi: Keselarasan antara skor kepercayaan dan akurasi aktual
• Efisiensi: Kebutuhan komputasi dan memori
• Keterjelasan: Transparansi proses pengambilan keputusan, aspek yang sangat diunggulkan oleh model-model hasil distilasi DeepSeek, yang menampilkan proses penalarannya

Dampak dari kurva biaya

Dampak paling langsung dari rilis DeepSeek adalah penurunan harga yang agresif. Industri teknologi memperkirakan biaya akan turun dari waktu ke waktu, tetapi hanya sedikit yang mengantisipasi seberapa cepat hal ini akan terjadi. DeepSeek menunjukkan bahwa model yang kuat dan terbuka dapat menjadi murah dan efisien, menciptakan peluang untuk eksperimen yang luas dan implementasi yang hemat biaya.

Amr Awadallah, CEO Vectara, menekankan hal ini, mencatat bahwa titik kritis yang sebenarnya bukan hanya biaya pelatihan, tetapi biaya inferensi, yang untuk DeepSeek adalah sekitar 1/30 dari model o1 atau o3 OpenAI per biaya inferensi per token. "Margin yang dapat ditangkap oleh OpenAI, Anthropic, dan Google Gemini sekarang harus dikurangi setidaknya 90 persen karena mereka tidak dapat tetap kompetitif dengan harga setinggi itu," kata Awadallah.

Tidak hanya itu, biaya ini akan terus menurun. CEO Anthropic, Dario Amodei, baru-baru ini menyatakan bahwa biaya pengembangan model terus menurun dengan kecepatan sekitar empat kali lipat setiap tahunnya. Sebagai hasilnya, harga yang dikenakan oleh pemasok LLM untuk penggunaannya juga akan terus menurun.

"Saya sepenuhnya berharap biayanya akan mencapai nol," kata Ashok Srivastava, CDO Intuit, sebuah perusahaan yang telah mendorong kuat AI dalam penawaran perangkat lunak pajak dan akuntansi seperti TurboTax dan Quickbooks. "...dan latensi akan mencapai nol. Semuanya akan menjadi kemampuan dasar yang bisa kita gunakan begitu saja."

Kesimpulan: Masa depan AI perusahaan bersifat terbuka, hemat biaya, dan digerakkan oleh data

DeepSeek dan Deep Research dari OpenAI lebih dari sekadar alat baru di gudang senjata AI - mereka adalah tanda-tanda perubahan besar di mana perusahaan akan menggunakan banyak model yang dibuat khusus yang sangat hemat biaya, kompeten, dan berakar pada data dan pendekatan perusahaan sendiri.

Bagi perusahaan, pesannya jelas: alat untuk membangun aplikasi AI yang kuat dan spesifik untuk suatu domain kini sudah tersedia. Ada risiko tertinggal jika tidak memanfaatkan alat-alat ini. Namun, kesuksesan sejati akan datang dari bagaimana data dikelola, bagaimana teknik seperti RAG dan distilasi dimanfaatkan, serta bagaimana inovasi dilakukan melampaui tahap pra-pelatihan.

Seperti yang dikatakan oleh Packer dari AmEx: perusahaan yang mengelola data mereka dengan benar akan menjadi perusahaan yang memimpin gelombang inovasi AI berikutnya.