Analisis Kritis Kasus Penggunaan Nyata LLM: Antara Janji dan Kenyataan

Selagi perdebatan mengenai nilai sebenarnya dari model bahasa besar (LLM) terus berlangsung, sangat penting untuk mengkaji secara kritis kasus penggunaan nyata yang diterapkan oleh perusahaan. Analisis ini bertujuan untuk mengkaji aplikasi konkret LLM di berbagai sektor, menilai dengan pandangan kritis nilai efektifnya, keterbatasannya, dan potensinya.

E-commerce dan Ritel: Pengoptimalan Bertarget atau Rekayasa Berlebihan?

Di sektor ritel dan e-commerce, LLM digunakan untuk berbagai tugas:

• Asisten internal dan peningkatan alur kerja: Instacart mengembangkan asisten AI bernama Ava untuk mendukung tim dalam menulis, meninjau, dan melakukan debug kode, meningkatkan komunikasi, dan membangun alat internal. Meski menjanjikan, muncul pertanyaan apakah asisten semacam ini menawarkan nilai yang jauh lebih tinggi dibandingkan alat kolaborasi yang lebih tradisional dan kurang kompleks.
• Moderasi konten dan keamanan: Whatnot menggunakan LLM untuk meningkatkan moderasi konten multimodal, perlindungan dari penipuan, dan deteksi kejanggalan dalam penawaran. Zillow memanfaatkan LLM untuk mengidentifikasi konten diskriminatif dalam iklan properti. Kasus-kasus ini mewakili aplikasi spesifik di mana LLM dapat memberikan nilai nyata, tetapi memerlukan sistem verifikasi yang akurat untuk menghindari false positive dan false negative.
• Ekstraksi dan klasifikasi informasi: OLX menciptakan Prosus AI Assistant untuk mengidentifikasi peran pekerjaan dalam iklan lowongan, sementara Walmart mengembangkan sistem untuk mengekstrak atribut produk dari file PDF. Kasus-kasus ini menunjukkan manfaat LLM dalam mengotomatisasi tugas-tugas berulang yang jika tidak akan membutuhkan pekerjaan manual yang signifikan.
• Pembuatan konten kreatif: StitchFix menggabungkan teks yang dihasilkan algoritma dengan pengawasan manusia untuk menyederhanakan pembuatan judul iklan dan deskripsi produk. Instacart menghasilkan gambar produk makanan. Aplikasi-aplikasi ini menimbulkan pertanyaan tentang orisinalitas konten yang dihasilkan dan potensi homogenisasi bahasa periklanan.
• Peningkatan pencarian: Leboncoin, Mercado Libre, dan Faire menggunakan LLM untuk meningkatkan relevansi pencarian, sementara Amazon memanfaatkan LLM untuk memahami hubungan akal sehat dan memberikan rekomendasi produk yang lebih relevan. Kasus-kasus ini mewakili area di mana nilai tambah LLM berpotensi signifikan, tetapi kompleksitas komputasi dan biaya energi terkait mungkin tidak sebanding dengan peningkatan bertahap dibandingkan algoritme pencarian yang sudah ada.

Fintech dan Perbankan: Menavigasi Antara Nilai dan Risiko Regulasi

Di sektor keuangan, LLM diterapkan dengan hati-hati, mengingat sifat data yang sensitif dan persyaratan peraturan yang ketat:

• Klasifikasi dan tagging data: Grab menggunakan LLM untuk tata kelola data, mengklasifikasikan entitas, mengidentifikasi informasi sensitif, dan menetapkan tag yang sesuai. Kasus penggunaan ini sangat menarik karena mengatasi tantangan kritis bagi lembaga keuangan, tetapi memerlukan mekanisme kontrol yang ketat untuk menghindari kesalahan klasifikasi.
• Pembuatan laporan kejahatan keuangan: SumUp menghasilkan narasi terstruktur untuk laporan penipuan keuangan dan pencucian uang. Aplikasi ini, meski menjanjikan untuk mengurangi beban kerja manual, menimbulkan kekhawatiran tentang kemampuan LLM untuk menangani topik yang secara hukum sensitif dengan benar tanpa pengawasan manusia.
• Dukungan untuk query keuangan: Digits menyarankan query terkait transaksi perbankan. Kasus penggunaan ini menunjukkan bagaimana LLM dapat membantu para profesional tanpa menggantikan mereka, pendekatan yang berpotensi lebih berkelanjutan dibandingkan otomatisasi penuh.

Teknologi: Otomasi dan Layanan

Di sektor teknologi, LLM banyak digunakan untuk meningkatkan alur kerja internal dan pengalaman pengguna:

• Manajemen insiden dan keamanan: Menurut laporan di security.googleblog.com, Google menggunakan LLM untuk menyediakan ringkasan insiden keamanan dan privasi bagi berbagai penerima, termasuk eksekutif, manajer, dan tim mitra. Pendekatan ini menghemat waktu para manajer dan meningkatkan kualitas ringkasan insiden. Microsoft memanfaatkan LLM untuk diagnosis insiden produksi, sementara Meta mengembangkan sistem analisis akar masalah yang dibantu AI. Incident.io menghasilkan ringkasan insiden perangkat lunak. Kasus-kasus ini menunjukkan nilai LLM dalam mempercepat proses kritis, tetapi menimbulkan pertanyaan tentang keandalannya dalam situasi dengan taruhan tinggi.
• Bantuan pemrograman: GitHub Copilot menawarkan saran kode dan pelengkapan otomatis, sementara Replit menyempurnakan LLM untuk perbaikan kode. NVIDIA menggunakan LLM untuk mendeteksi kerentanan perangkat lunak. Alat-alat ini meningkatkan produktivitas pengembang, tetapi juga berpotensi menyebarkan pola kode yang tidak efisien atau tidak aman jika digunakan tanpa kritis.
• Query data dan pencarian internal: Honeycomb membantu pengguna menulis query data, Pinterest mengubah pertanyaan pengguna menjadi query SQL. Kasus-kasus ini menunjukkan bagaimana LLM dapat mendemokratisasi akses ke data, tetapi juga berpotensi menghasilkan interpretasi yang salah atau tidak efisien tanpa pemahaman mendalam tentang struktur data yang mendasarinya.
• Klasifikasi dan pengelolaan permintaan dukungan: GoDaddy mengklasifikasikan permintaan dukungan untuk meningkatkan pengalaman pelanggan. Dropbox merangkum dan menjawab pertanyaan tentang file. Kasus-kasus ini menunjukkan potensi LLM dalam meningkatkan layanan pelanggan, tetapi menimbulkan kekhawatiran tentang kualitas dan akurasi jawaban yang dihasilkan.

Pengiriman dan Mobilitas: Efisiensi dan Kustomisasi Operasional

Di sektor pengiriman dan mobilitas, LLM digunakan untuk meningkatkan efisiensi operasional dan pengalaman pengguna:

• Pengujian dan dukungan teknis: Uber menggunakan LLM untuk menguji aplikasi seluler dengan DragonCrawl dan membangun Genie, sebuah copilot AI untuk menjawab pertanyaan dukungan. Alat-alat ini dapat secara signifikan mengurangi waktu yang dihabiskan untuk pengujian dan dukungan, tetapi mungkin tidak menangkap masalah kompleks atau edge case sebaik yang dilakukan oleh penguji manusia.
• Ekstraksi dan pencocokan informasi produk: DoorDash mengekstrak detail produk dari data SKU dan Delivery Hero mencocokkan inventarisnya dengan produk pesaing. Kasus-kasus ini menunjukkan bagaimana LLM dapat mengotomatisasi proses pencocokan data yang kompleks, tetapi dapat menimbulkan bias atau interpretasi yang salah tanpa kontrol yang memadai.
• Pencarian percakapan dan relevansi: Picnic meningkatkan relevansi pencarian untuk daftar produk, sementara Swiggy menerapkan pencarian neural untuk membantu pengguna menemukan makanan dan bahan makanan secara percakapan. Kasus-kasus ini menggambarkan bagaimana LLM dapat membuat antarmuka pencarian lebih intuitif, tetapi juga dapat menciptakan "gelembung filter" yang membatasi penemuan produk baru.
• Otomatisasi dukungan: DoorDash membangun chatbot dukungan berbasis LLM yang mengambil informasi dari basis pengetahuan untuk menghasilkan jawaban yang menyelesaikan masalah dengan cepat. Pendekatan ini dapat meningkatkan waktu respons, tetapi memerlukan pagar pengaman yang kuat untuk menangani situasi yang kompleks atau bermuatan emosional.

Sosial, Media, dan B2C: Konten dan Interaksi yang Dipersonalisasi

Di media sosial dan layanan B2C, LLM digunakan untuk membuat konten yang disesuaikan dan meningkatkan interaksi:

• Analisis dan moderasi konten: Yelp memperbarui sistem moderasi kontennya dengan LLM untuk mendeteksi ancaman, pelecehan, kata-kata cabul, serangan pribadi, atau ujaran kebencian. LinkedIn menganalisis berbagai konten di platform untuk mengekstrak informasi tentang keterampilan. Kasus-kasus ini menunjukkan potensi LLM dalam meningkatkan kualitas konten, tetapi menimbulkan kekhawatiran tentang sensor dan potensi pembatasan kebebasan berekspresi.
• Pembuatan konten edukasi dan marketing: Duolingo menggunakan LLM untuk membantu perancang menghasilkan latihan yang relevan, sementara Nextdoor memanfaatkan LLM untuk membuat subjek email yang menarik. Aplikasi-aplikasi ini dapat meningkatkan efisiensi, tetapi juga dapat menyebabkan standardisasi konten yang berlebihan.
• Terjemahan dan komunikasi multibahasa: Roblox memanfaatkan model multibahasa khusus untuk memungkinkan pengguna berkomunikasi dengan lancar menggunakan bahasa mereka sendiri. Aplikasi ini menunjukkan potensi LLM dalam mengatasi hambatan bahasa, tetapi dapat memasukkan nuansa budaya yang keliru dalam terjemahan.
• Interaksi dengan konten multimedia: Vimeo memungkinkan pengguna untuk berdialog dengan video melalui sistem tanya-jawab berbasis RAG yang dapat merangkum konten video, menautkan ke momen-momen kunci, dan menyarankan pertanyaan tambahan. Aplikasi ini menunjukkan bagaimana LLM dapat mengubah cara kita berinteraksi dengan konten multimedia, tetapi menimbulkan pertanyaan tentang keakuratan interpretasi yang dihasilkan.

Evaluasi Kritis: Nilai Nyata vs Mengikuti Tren

Seperti yang ditekankan oleh Chitra Sundaram, direktur practice manajemen data di Cleartelligence, Inc., "LLM adalah pelahap sumber daya. Melatih dan menjalankan model-model ini membutuhkan daya komputasi yang sangat besar, yang mengakibatkan jejak karbon yang signifikan. IT berkelanjutan berkaitan dengan optimalisasi penggunaan sumber daya, meminimalkan pemborosan, dan memilih solusi dengan ukuran yang tepat". Pengamatan ini sangat relevan ketika menganalisis kasus penggunaan yang dipaparkan.

Menganalisis kasus-kasus penggunaan ini, beberapa pertimbangan penting muncul:

1. Nilai Tambahan vs Kompleksitas

Banyak aplikasi LLM menawarkan peningkatan bertahap dibandingkan solusi yang sudah ada, tetapi dengan biaya komputasi, energi, dan implementasi yang jauh lebih besar. Seperti yang dikatakan Chitra Sundaram, "Menggunakan LLM untuk menghitung rata-rata sederhana itu seperti menggunakan bazooka untuk menembak seekor lalat" (paste-2.txt). Sangat penting untuk menilai apakah nilai tambah tersebut sebanding dengan kompleksitas ini, terutama dengan mempertimbangkan:

• Kebutuhan akan sistem pemantauan yang kuat
• Biaya energi dan dampak lingkungan
• Kompleksitas pemeliharaan dan pembaruan
• Kebutuhan akan keahlian khusus

2. Ketergantungan pada Pengawasan Manusia

Sebagian besar kasus penggunaan yang berhasil mempertahankan pendekatan human-in-the-loop, di mana LLM membantu dan bukannya sepenuhnya menggantikan campur tangan manusia. Hal ini menunjukkan bahwa:

• Otomatisasi penuh melalui LLM masih bermasalah
• Nilai utamanya terletak pada peningkatan kemampuan manusia, bukan menggantikannya
• Efektivitasnya bergantung pada kualitas interaksi manusia-mesin

3. Kekhususan Domain vs Aplikasi Generik

Kasus penggunaan yang paling meyakinkan adalah yang di mana LLM telah disesuaikan dan dioptimalkan untuk domain tertentu, dengan pengetahuan domain yang tertanam melalui:

• Fine-tuning pada data khusus sektor
• Integrasi dengan sistem yang ada dan sumber pengetahuan
• Guardrail dan batasan khusus untuk konteks tertentu

4. Integrasi dengan Teknologi yang Sudah Ada

Kasus yang paling efektif tidak menggunakan LLM secara terpisah, tetapi melengkapinya dengan:

• Sistem pengambilan dan penyimpanan data (RAG)
• Algoritma khusus dan alur kerja yang sudah ada
• Mekanisme verifikasi dan kontrol

Seperti yang ditunjukkan oleh kasus penggunaan Google, integrasi LLM ke dalam alur kerja untuk insiden keamanan dan privasi memungkinkan untuk "mempercepat respons terhadap insiden dengan menggunakan AI generatif", dengan ringkasan yang dihasilkan disesuaikan untuk berbagai penerima, memastikan bahwa informasi yang relevan sampai kepada orang yang tepat dalam format yang paling berguna.

Kesimpulan: Pendekatan Pragmatis terhadap LLM

Chitra Sundaram menawarkan perspektif yang mencerahkan ketika ia mengatakan: 'Jalan menuju analisis yang berkelanjutan adalah tentang memilih alat yang tepat untuk pekerjaan itu, bukan hanya mengejar tren terbaru. Ini adalah tentang berinvestasi pada analis yang terampil dan tata kelola data yang baik. Ini adalah tentang menjadikan keberlanjutan sebagai prioritas utama'.

Analisis terhadap contoh-contoh kasus nyata ini menegaskan bahwa LLM bukanlah solusi ajaib, namun merupakan alat bantu yang ampuh, yang jika diterapkan secara strategis pada masalah-masalah tertentu, dapat memberikan nilai yang signifikan. Organisasi harus melakukannya:

1. Mengidentifikasi masalah spesifik di mana pemrosesan bahasa alami memberikan keunggulan substansial dibandingkan pendekatan tradisional
2. Memulai dengan proyek percontohan yang dapat menunjukkan nilai secara cepat dan terukur
3. Mengintegrasikan LLM dengan sistem yang ada alih-alih sepenuhnya menggantikan alur kerja
4. Mempertahankan mekanisme pengawasan manusia, terutama untuk aplikasi yang kritis
5. Mengevaluasi secara sistematis rasio biaya-manfaat, dengan mempertimbangkan tidak hanya peningkatan kinerja tetapi juga biaya energi, pemeliharaan, dan pembaruan

Perusahaan yang berkembang di era LLM belum tentu perusahaan yang mengadopsinya secara luas, tetapi perusahaan yang menerapkannya secara lebih strategis, menyeimbangkan antara inovasi dan pragmatisme, dan tetap memperhatikan nilai nyata yang dihasilkan di luar hype.