Otomatisasi total adalah janji yang menggoda. Namun, dalam pengambilan keputusan bisnis yang serius—terutama yang berkaitan dengan risiko, margin, kepatuhan, dan pelanggan—AI saja seringkali tidak cukup. Dalam konteks TI Italia, adopsi proses Human-in-the-Loop semakin meningkat: di perusahaan teknologi dengan kurang dari 250 karyawan, penggunaan AI HITL untuk analisis data telah meningkat sebesar 40% dalam enam bulan, naik dari 6,3% menjadi 8,8% hingga September 2025, menurut data yang dilaporkan oleh Software Oasis. Ini bukan sekadar detail teknis. Ini adalah sinyal strategis.
Alasannya sederhana. AI unggul dalam menangani volume, kecepatan, dan pengulangan. Manusia unggul ketika dibutuhkan konteks, penilaian, dan tanggung jawab. Jika Anda memisahkan kedua hal ini, hasilnya bisa berupa proses yang lambat atau kesalahan. Jika Anda memadukannya dengan baik, Anda dapat mengubah analitik menjadi sistem pengambilan keputusan yang lebih kokoh.
Oleh karena itu, analitik AI dengan keterlibatan manusia (human-in-the-loop) kini semakin menjadi model operasional, bukan sekadar kategori teknologi. Bagi banyak UMKM di Italia, ini juga merupakan cara paling realistis untuk mengadopsi AI tanpa harus membangun tim data scientist dari nol. Hal ini juga menjelaskan mengapa teknik prompt engineering saja tidak cukup efektif ketika masalah sebenarnya bukanlah menghasilkan jawaban, melainkan mengambil keputusan yang dapat diandalkan.
Sistem yang sepenuhnya otomatis akan berjalan dengan baik selama segala sesuatunya berjalan sesuai rencana. Masalahnya, bisnis, pelanggan, rantai pasokan, dan penipuan tidak pernah berjalan sesuai skenario yang sudah ditentukan. Cukup satu anomali, perubahan regulasi, atau sinyal yang ambigu, dan hasil yang secara statistik benar bisa berubah menjadi keputusan yang salah dari sudut pandang bisnis.
Di sinilah letak logika HITL. Sistem ini tidak menambahkan peninjau manusia “di tahap akhir” semata-mata demi kehati-hatian birokratis. Sistem ini merancang ulang proses tersebut agar AI bekerja di bidang yang menjadi keunggulannya dan hanya meminta intervensi manusia di bagian yang benar-benar penting.
Tujuannya bukanlah untuk memperlambat otomatisasi. Tujuannya adalah untuk mencegah otomatisasi membuat kesalahan dalam pengambilan keputusan yang berdampak paling besar.
Bagi seorang pemimpin bisnis yang berpengalaman, hal ini mengubah pertanyaan utamanya. Bukan lagi “seberapa banyak yang bisa saya otomatiskan?”, melainkan “bagian mana dari pengambilan keputusan yang harus tetap kontekstual, dapat dijelaskan, dan terkendali?”. Di sinilah analitik AI dengan keterlibatan manusia (human-in-the-loop) menjadi keunggulan kompetitif, terutama di sektor keuangan dan ritel, di mana kecepatan dan penilaian harus berjalan beriringan.
Bagi sebuah perusahaan, HITL bukanlah sekadar fitur teknis tambahan. HITL merupakan model operasional untuk menentukan peran masing-masing antara sistem dan manusia dalam alur analisis.
Dalam analisis AI dengan keterlibatan manusia (human-in-the-loop), AI menganalisis volume data yang besar, menghasilkan klasifikasi, prediksi, atau peringatan, lalu hanya meneruskan kasus-kasus yang memerlukan penilaian kontekstual kepada pihak manusia untuk ditindaklanjuti. Hal ini terjadi, misalnya, ketika sinyal yang diterima ambigu, nilai ekonomi dari keputusan tersebut tinggi, atau risiko regulasi tidak memungkinkan respons otomatis tanpa verifikasi.
Hubungan ini mirip dengan hubungan antara seorang pilot maskapai penerbangan dan sistem autopilot. Mesin menangani dengan baik bagian-bagian yang terstandarisasi dan dapat diulang. Manusia mengawasi titik-titik krusial di mana pengalaman, konteks, dan tanggung jawab menjadi faktor penentu.
Secara praktis, siklus ini bekerja sebagai berikut:
Di sinilah letak perbedaan antara teori dan ROI. Sistem HITL yang baik tidak akan menyerahkan semuanya ke proses peninjauan manual. Jika hal itu dilakukan, sistem tersebut akan kehilangan keunggulan skala yang ditawarkan oleh otomatisasi. Sebaliknya, jika sistem selalu membiarkan model yang mengambil keputusan, hal itu akan membuat perusahaan rentan terhadap kesalahan yang berakibat fatal. Nilai tambah muncul dari pemilihan cerdas titik-titik di mana intervensi manusia benar-benar mengubah hasil ekonomi atau profil risiko.
Bagi sebuah UMKM Italia, aspek ini lebih penting daripada tingkat kecanggihan algoritma. Di bidang keuangan, hal ini berarti meminta analis untuk meninjau hanya berkas-berkas yang memiliki profil tidak wajar atau dokumentasi yang tidak konsisten. Di sektor ritel, hal ini berarti memastikan bahwa manajer kategori atau kepala divisi e-commerce hanya menerima peringatan terkait harga, stok, atau tingkat churn yang tidak dapat ditafsirkan oleh sistem dengan tingkat kepastian yang memadai. Platform seperti ELECTE skema ini dapat diterapkan bahkan tanpa tim data scientist internal, karena mereka mengubah umpan balik operasional menjadi bagian terstruktur dari proses.
Untuk menghindari kebingungan, sebaiknya kita membedakan tiga model tersebut.
| Model | Bagaimana cara kerjanya | Di mana yang paling cocok |
|---|---|---|
| Manusia sebagai bagian dari sistem | Orang tersebut berperan aktif dalam kasus-kasus yang dipilih | Keputusan yang berdampak besar, keuangan, ritel kritis |
| Manusia sebagai bagian dari sistem | Orang tersebut hanya mengawasi dan bertindak jika masalah meningkat | Proses yang sudah matang dengan volume tinggi |
| Tanpa campur tangan manusia | Sistemnya memutuskan sendiri | Tugas yang berulang dan berisiko rendah |
Perbedaannya bersifat arsitektural, bukan semantik. Hal ini menentukan waktu respons, biaya operasional, kualitas keputusan, dan tingkat kendali yang dimiliki manajemen atas proses tersebut.
Ada satu aturan praktis yang sederhana. HITL masuk akal jika biaya peninjauan yang ditargetkan lebih rendah daripada potensi kerugian akibat kesalahan otomatis. Karena itu, HITL lebih mudah diterapkan dalam proses-proses di mana beberapa kesalahan saja sudah dapat mengikis margin keuntungan, menimbulkan ketidakpuasan pelanggan, atau memicu masalah kepatuhan.
Singkatnya, analisis AI dengan keterlibatan manusia (human-in-the-loop) tidak sekadar melibatkan manusia demi kehati-hatian. Analisis ini menugaskan manusia pada tahap-tahap di mana penilaian mereka menghasilkan nilai ekonomi yang lebih besar dan kontrol manajerial yang lebih baik.
Bagi seorang pemimpin perusahaan, intinya bukanlah menambah pengawasan manusia demi kehati-hatian. Intinya adalah menempatkan penilaian manusia di tempat-tempat di mana otomatisasi kehilangan akurasi ekonomisnya. HITL efektif jika mampu menekan biaya kesalahan lebih besar daripada kenaikan biaya proses yang ditimbulkannya.
Hal ini mengubah cara kita memahami nilai analitik AI. Model murni mengutamakan skalabilitas dan kecepatan. Model human-in-the-loop mengutamakan keseimbangan antara otomatisasi dan kualitas pengambilan keputusan pada tahapan yang memengaruhi margin, risiko, dan kepercayaan internal. Bagi banyak UMKM Italia, terutama di sektor keuangan dan ritel, ini merupakan perbedaan strategis. Tidak perlu mengejar otomatisasi total. Yang diperlukan adalah mengotomatisasi alur kerja bervolume tinggi dengan baik dan melibatkan manusia pada kasus-kasus yang berpotensi menimbulkan kerugian, sengketa, atau keputusan bisnis yang salah.
Nilai tersebut terletak pada titik-titik gesekan dalam proses, bukan pada pengawasan manusia itu sendiri.
Tiga manfaat ini selalu muncul:
Hasil bisnisnya jelas: lebih sedikit keputusan yang disetujui secara otomatis tanpa verifikasi di titik-titik di mana kesalahan dapat menimbulkan biaya yang lebih besar.
Sebuah analogi yang berguna adalah pengendalian mutu di industri. Tidak ada perusahaan yang serius yang menugaskan seorang pemeriksa untuk memeriksa setiap unit jika cacatnya jarang terjadi dan biayanya rendah. Namun, tidak ada pula yang membiarkan batch produk tanpa pemeriksaan jika kesalahan di dalamnya dapat menyebabkan pengembalian barang, denda, atau kerusakan reputasi. HITL menerapkan logika yang sama pada pengambilan keputusan berbasis data. HITL mengambil sampel, menyaring, dan meneruskan masalah hanya jika risikonya memang membenarkan hal tersebut.
Oleh karena itu, pendekatan ini juga menarik bagi perusahaan yang tidak memiliki tim data scientist. Platform seperti ELECTE kompleksitas operasional karena mengubah masukan dari para praktisi di bidang kredit, penetapan harga, persediaan, atau layanan pelanggan menjadi langkah yang dapat dikelola dalam alur kerja, bukan sebagai proyek teknis terpisah.
Manfaatnya tidak datang dengan sendirinya. Proses yang dirancang dengan buruk tetaplah proses yang dirancang dengan buruk, meskipun melibatkan seorang pemeriksa manusia.
Risiko yang paling umum adalah sebagai berikut:
Sebuah proyek HITL sering kali gagal karena alasan yang sangat konkret. Perusahaan memasukkan orang-orang ke dalam proses otomatis tanpa merancang ulang titik-titik pengambilan keputusan, waktu intervensi, dan kriteria yang digunakan untuk menentukan apakah suatu kasus akan diteruskan ke tahap peninjauan.
Ada pula kesalahan dalam pendekatan manajerial. Beberapa tim memandang HITL sebagai fase sementara, yang hanya berguna sampai model tersebut cukup “matang” untuk beroperasi secara mandiri. Dalam proses-proses berdampak tinggi, asumsi ini jarang terbukti benar. Dalam bidang kredit, pencegahan penipuan, penentuan produk, atau penetapan harga promosi, pengawasan selektif bukanlah biaya sisa yang harus dihilangkan. Ini merupakan komponen tetap dari model operasional, karena melindungi laporan laba rugi dan membuat keputusan dapat dipertanggungjawabkan.
Pertanyaannya, oleh karena itu, bukanlah apakah kita harus mencapai tingkat pengawasan nol. Pertanyaannya adalah di mana pengawasan menghasilkan ROI yang lebih tinggi dan di mana justru menghambat tanpa menciptakan nilai. Sebagian besar pengembalian investasi bergantung pada perbedaan ini, terutama bagi UMKM yang harus menerapkan analitik AI dengan sumber daya terbatas dan target yang dapat diukur dalam waktu singkat.
Dalam bidang keuangan, nilai HITL terlihat jelas pada kasus-kasus yang berdampak paling besar terhadap laporan laba rugi dan tanggung jawab regulasi. Bukan pada proses standar—yang dapat ditangani dengan baik oleh otomatisasi—melainkan pada keputusan yang sangat ambigu, di mana satu kesalahan dapat mengakibatkan kerugian waktu, merusak reputasi, atau memicu tindakan audit.
Contoh yang paling jelas adalah pencegahan pencucian uang. Model ini menganalisis volume transaksi yang besar, mengidentifikasi pola yang tidak wajar, dan memprioritaskan kasus-kasus tertentu. Analis hanya turun tangan jika diperlukan penilaian subjektif. Pada praktiknya, AI berfungsi sebagai sistem penyortiran berkecepatan tinggi, sementara petugas kepatuhan menangani kasus-kasus pengecualian yang memerlukan pemahaman konteks, pengalaman, dan kemampuan untuk mengambil keputusan.
Mari kita ambil contoh seorang nasabah korporat yang menunjukkan pola transaksi yang tidak sesuai dengan riwayat sebelumnya. Sistem otomatis dapat mengklasifikasikan kasus tersebut sebagai mencurigakan karena mendeteksi adanya penyimpangan statistik. Sebaliknya, seorang analis dapat mengaitkan penyimpangan tersebut dengan restrukturisasi perusahaan, fase musiman dalam bisnis, atau data yang sudah ada dalam sistem internal.
Di sinilah ROI yang sesungguhnya dihasilkan.
Jika setiap anomali diperlakukan sebagai risiko penuh, bank akan meningkatkan jumlah hasil positif palsu, memperlambat kerja tim pengawas, dan menghabiskan waktu yang seharusnya dialokasikan untuk kasus-kasus yang benar-benar kritis. Sebaliknya, jika model menyaring dan operator memvalidasi kasus-kasus yang berada di ambang batas, lembaga tersebut dapat mengurangi biaya operasional audit tanpa mengorbankan kualitas pengawasan. Bagi lembaga keuangan skala kecil dan menengah (UKM) atau perusahaan dengan tim kepatuhan yang terbatas, hal ini lebih memengaruhi keberlanjutan proses daripada tingkat akurasi teoretis model.
Bagi yang ingin melihat penerapan tema ini dalam praktiknya, video ini dapat menjadi referensi yang berguna:
Dalam bidang kredit, logikanya serupa, namun manfaatnya bagi manajemen jauh lebih jelas. Model penilaian kredit dapat dengan cepat mengolah banyak variabel terstruktur. Namun, beberapa profil tetap sulit dianalisis menggunakan aturan standar, misalnya pekerja lepas, usaha mikro, perusahaan dengan pola musiman yang kuat, atau kondisi keuangan yang tidak teratur.
Dalam kasus-kasus ini, HITL meningkatkan tiga hasil operasional:
Bagi seorang pemimpin perusahaan yang berpengalaman, inti strategisnya adalah sebagai berikut. HITL tidak sekadar menambahkan sentuhan manusia di tahap akhir model. HITL merancang ulang alur pengambilan keputusan agar fokus keahlian hanya diarahkan pada bagian-bagian di mana otomatisasi memiliki kemungkinan kesalahan yang lebih tinggi atau di mana dampaknya terhadap regulasi lebih besar.
Dalam hal regulasi, sebaiknya kita tetap bersikap hati-hati. Tidaklah tepat untuk menganggap kewajiban spesifik dari Consob terkait HITL dalam konteks analitik kecerdasan buatan (AI) sebagai hal yang sudah pasti, tanpa adanya rujukan regulasi yang langsung dan dapat diverifikasi dalam poin yang sama. Namun, arahnya sudah jelas: dalam kegiatan kepatuhan, pengawasan, dan pemberian kredit, ekspektasi terhadap keterlacakan, pengawasan manusia, serta justifikasi keputusan otomatis semakin meningkat.
Bagi UMKM Italia, perbedaan ini sangat penting. Sebuah proyek HITL yang dirancang dengan baik tidak selalu memerlukan tim data scientist internal. Yang dibutuhkan adalah platform yang dapat mengarahkan kasus-kasus yang meragukan, mengumpulkan umpan balik, menjaga jejak audit, dan memudahkan pekerjaan tim keuangan dan risiko. Di sinilah alat-alat seperti ELECTE ambang batas akses. Alat-alat ini mengubah HITL dari arsitektur teoretis menjadi proses yang dapat diukur, dengan manfaat konkret pada waktu audit, kualitas keputusan, dan biaya kepatuhan.
Dalam sektor ritel, kesalahan yang paling merugikan tidak berasal dari perkiraan yang kurang akurat secara teoritis. Kesalahan tersebut justru muncul dari perkiraan yang tepat berdasarkan data historis, namun keliru dalam menganalisis konteks nyata dari gerai, wilayah, atau minggu promosi. Karena itulah, pendekatan "human-in-the-loop" memiliki nilai operasional langsung. Pendekatan ini memasukkan penilaian komersial dalam situasi di mana model, jika digunakan sendiri, berisiko menafsirkan masa lalu dengan akurat namun terlambat dalam menafsirkan masa kini.
Sebuah perusahaan ritel menggunakan AI untuk memperkirakan permintaan, pemesanan ulang, dan alokasi persediaan di antara berbagai saluran dan toko. Model ini mengenali pola musiman, tren penjualan habis, dampak promosi sebelumnya, dan perputaran stok per SKU. Namun, manajer kategori melihat sinyal-sinyal yang jarang langsung tercatat dalam dataset: konten media sosial yang memicu lonjakan permintaan, perayaan lokal, keterlambatan pasokan dari pemasok, atau kampanye agresif pesaing di wilayah yang sama.
Intinya bukanlah selalu memperbaiki model. Intinya adalah hanya melakukan intervensi ketika biaya kesalahan melebihi biaya peninjauan manual. Di sektor ritel, hal ini sering terjadi pada produk musiman, produk dengan margin tinggi, peluncuran promosi, dan rangkaian produk lokal.
Bagi sebuah UMKM Italia, manfaatnya nyata. Lebih sedikit kehabisan stok pada produk yang benar-benar laku. Lebih sedikit modal yang tertahan pada barang-barang yang lambat terjual. Lebih sedikit diskon paksa di akhir siklus. Pada dasarnya, HITL berfungsi seperti menara pengawas: AI mengelola arus kerja sehari-hari, sementara manajer penjualan menangani kasus-kasus khusus yang dapat memengaruhi margin dan kualitas layanan.
Keterlambatan dalam penerapan membuat pendekatan ini semakin relevan. Menurut ISTAT, hanya sebagian kecil perusahaan dengan setidaknya 10 karyawan yang menggunakan teknologi kecerdasan buatan, dengan perbedaan yang signifikan berdasarkan ukuran perusahaan dan sektor, sebagaimana dilaporkan dalam survei resmi mengenai penggunaan TIK di perusahaan: ISTAT, Perusahaan dan TIK. Bagi banyak UMKM, masalahnya bukanlah memahami apakah AI berguna. Masalahnya adalah mengadopsinya tanpa membentuk tim teknis khusus. Platform yang melibatkan manajer dalam proses pengambilan keputusan mengurangi hambatan ini.
Pola yang sama juga berlaku untuk penetapan harga dan pemasaran, di mana otomatisasi murni memang dapat meningkatkan kecepatan, tetapi juga dapat menghasilkan keputusan yang tidak mempertimbangkan dampak jangka panjang.
Di sini muncul sebuah poin strategis yang sering kali diremehkan. Dalam industri ritel, tujuannya bukanlah memaksimalkan setiap perkiraan. Melainkan mengambil keputusan yang dapat diulang untuk menjaga margin, ketersediaan stok di rak, dan konsistensi operasional. HITL mengalihkan pekerjaan manusia dari tugas-tugas yang berulang ke pengecualian-pengecualian yang berdampak besar.
Bagi sebuah platform e-commerce atau jaringan ritel lokal, perbedaan ini lebih penting daripada seberapa canggih modelnya. Sistem prediktif hanya memberikan peringatan. Sistem human-in-the-loop membantu tim mengambil keputusan lebih awal, dengan konteks yang lebih luas, dan dengan hambatan operasional yang lebih sedikit. Dan di sinilah solusi seperti ELECTE menarik bagi UMKM. Solusi ini memungkinkan penerapan proses yang, hingga beberapa tahun lalu, seolah-olah hanya dapat diakses oleh pengecer yang memiliki data scientist internal dan anggaran skala perusahaan.
Model HITL hanya berguna jika alur operasionalnya dapat dipahami oleh para pengambil keputusan. Jika proses peninjauan memerlukan keterlibatan data scientist, kueri manual, atau langkah-langkah teknis yang rumit, banyak UMKM yang mundur sebelum memulai.
Pada platform yang dirancang dengan baik, prosesnya seharusnya seperti ini:
Koneksi ke sumber data
CRM, ERP, e-commerce, lembar kerja operasional, dan sistem keuangan terintegrasi dalam alur informasi yang sama.
Analisis sinyal otomatis
AI memproses data dan menghasilkan prediksi, peringatan, laporan, serta deteksi anomali.
Penetapan tingkat kepercayaan dan prioritas
Tidak semua wawasan memiliki nilai yang sama. Ada yang jelas, ada pula yang perlu ditinjau kembali.
Eskalasi selektif ke pengguna
Kasus-kasus yang tidak jelas atau berdampak besar akan ditampilkan di dasbor peninjauan.
Umpan balik manusia
Manajer akan menyetujui, mengoreksi, atau menolak wawasan tersebut dengan konteks yang terlihat.
Pembelajaran berkelanjutan
Sistem ini menggunakan umpan balik tersebut untuk menyempurnakan modelnya seiring berjalannya waktu.
Logika ini sejalan dengan arsitektur loop umpan balik aktif yang dijelaskan dalam referensi yang telah diverifikasi: AI meminta validasi manusia pada titik-titik dengan tingkat ketidakpastian tertinggi, alih-alih meminta kontrol atas seluruh dataset. Inilah langkah yang membuat HITL dapat diterapkan, bukan sekadar benar secara teoritis.
Bagi sebuah UMKM, inti permasalahannya bukanlah “menggunakan AI”. Melainkan kemampuan untuk menggunakannya tanpa harus membentuk divisi teknis khusus. Itulah mengapa antarmuka sama pentingnya dengan modelnya.
Pendekatan yang efektif sebaiknya mencakup:
Jika auditor harus menafsirkan suatu model tanpa konteks, siklus tersebut terputus. Jika ia melihat wawasan, motivasi, dan dampak dalam ruang yang sama, siklus tersebut berubah menjadi keputusan.
Inilah intinya. HITL seharusnya tidak meminta UMKM untuk menyesuaikan diri dengan teknologi. Sebaliknya, platformlah yang harus menerjemahkan kompleksitas analitis menjadi proses yang dapat dikelola oleh seorang manajer keuangan, operasional, atau ritel hanya dalam beberapa langkah.
Proyek-proyek HITL memberikan nilai tambah ketika dapat mengurangi biaya pengambilan keputusan, bukan ketika menambahkan lapisan pengawasan baru. Bagi sebuah UKM Italia, intinya bukanlah menerapkan tinjauan manual di setiap tahap. Melainkan memilih tahap-tahap di mana penilaian manusia dapat memperbaiki kesalahan yang merugikan, mempercepat penanganan pengecualian, dan membuat model tersebut semakin bermanfaat seiring berjalannya waktu.
Itulah sebabnya urutan pelaksanaannya lebih penting daripada ambisi awal. Sebuah kasus penggunaan awal yang baik memiliki tiga karakteristik sekaligus: dampak ekonomi yang terlihat, data historis yang memadai, dan keputusan yang saat ini sudah bergantung pada pengalaman seseorang. Sektor keuangan dan ritel sering kali masuk dalam profil ini. Dalam kredit komersial, misalnya, tinjauan terarah terhadap kasus-kasus yang ambigu dapat mengurangi kesalahan penilaian tanpa memperlambat alur keseluruhan. Di sektor ritel, prinsip yang sama berlaku untuk pemesanan ulang, penetapan harga promosi, dan pengelolaan anomali stok.
| Kriteria | Mengapa hal ini penting |
|---|---|
| Dampak ekonomi dari kesalahan tersebut | Perusahaan dapat mengukur nilai koreksi tersebut |
| Ketersediaan data historis | Model tersebut dapat dimulai dari sinyal-sinyal yang sudah ada dalam proses |
| Adanya penilaian manusia yang sudah ada | Umpan balik tidak boleh dibuat-buat. Umpan balik harus disusun secara terstruktur |
Di sinilah ROI-nya ditentukan.
Jika tim manusia ikut campur dalam setiap keputusan, AI hanya akan menjadi tahap perantara. Namun, jika AI hanya terlibat dalam kasus-kasus yang sangat tidak pasti atau berdampak besar, perusahaan akan memperoleh hasil yang sangat berbeda: beban operasional pada kasus-kasus sederhana berkurang, dan perhatian lebih difokuskan pada kasus-kasus yang benar-benar memengaruhi hasil keuangan. Inilah logika yang telah disebutkan sebelumnya. Dengan memfokuskan umpan balik pada titik-titik yang tepat, organisasi dapat memanfaatkan waktu karyawan dan kemampuan model dengan lebih baik.
Praktik terbaik yang kedua berkaitan dengan desain titik intervensi manusia. Dalam banyak implementasi, masalahnya bukanlah algoritmanya, melainkan ketidakjelasan prosesnya. Jika tidak jelas siapa yang memberikan persetujuan, dengan ambang batas apa, dan berdasarkan informasi apa, sistem tersebut tidak akan belajar. Sistem tersebut hanya akan memindahkan hambatan dari satu tahap ke tahap lainnya.
Sebelum peluncuran, ada baiknya untuk menentukan empat aspek operasional berikut:
Ada sebuah pedoman praktis yang dapat membantu menentukan apakah proyek sudah siap: jika peninjau tidak tahu mengapa kasus tersebut ditugaskan kepadanya, berarti implementasinya belum matang.
Ada pula kesalahan yang sering terjadi di perusahaan UKM. Banyak yang beranggapan bahwa manajemen perlu dilatih mengenai matematika model tersebut. Padahal, yang dibutuhkan adalah hal lain: kemampuan untuk mengidentifikasi anomali, mengevaluasi kelayakan wawasan, dan memberikan umpan balik yang konsisten. Ini adalah perbedaan yang penting. Seorang manajer kategori tidak perlu melatih algoritma. Ia harus mampu mengenali apakah usulan pemesanan ulang mengabaikan promosi lokal, pergantian pemasok, atau kehabisan stok yang sudah diketahui oleh tim.
Platform seperti ELECTE pendekatan ini lebih mudah diakses karena menyembunyikan kompleksitas teknis di balik antarmuka operasional. Bagi banyak UMKM, di sinilah letak keunggulan strategisnya. Mereka tidak perlu membentuk tim ilmuwan data untuk memanfaatkan analitik AI secara optimal, melainkan memungkinkan tim keuangan dan ritel untuk mengoreksi, memvalidasi, dan menyempurnakan sistem tersebut dalam alur kerja sehari-hari.
Kualitas implementasi diukur melalui beberapa indikator konkret: waktu peninjauan per pengecualian, tingkat penerimaan rekomendasi, pengurangan kesalahan berulang, dan dampak ekonomi dari perbaikan. Jika angka-angka ini tidak membaik, proyek tersebut hanya mengotomatiskan hasil. Proyek tersebut belum meningkatkan kualitas pengambilan keputusan.
Analisis AI dengan keterlibatan manusia yang baik hanya memerlukan sedikit intervensi manusia, yang ditempatkan secara tepat dan dapat dilacak. Dengan cara inilah kolaborasi manusia-mesin tidak lagi sekadar janji teknis, melainkan menjadi disiplin operasional yang memberikan hasil yang dapat diukur.
Ketika AI terlibat dalam proses yang berkaitan dengan kredit, harga, penipuan, atau kepatuhan, pertanyaan utamanya pun berubah. Yang penting bukan hanya apakah model tersebut menghasilkan prediksi yang akurat. Yang penting adalah apakah perusahaan dapat menelusuri bagaimana prediksi tersebut menjadi sebuah keputusan, siapa yang menyetujuinya, dan berdasarkan kriteria apa.
Di sini, tata kelola bukanlah tingkatan administratif yang ditambahkan belakangan. Tata kelola berfungsi seperti sistem pengendalian pada jalur produksi: jika titik-titik pemeriksaan telah ditetapkan dengan baik, perusahaan dapat mengurangi kesalahan yang merugikan sebelum kesalahan tersebut sampai ke pelanggan, auditor, atau regulator. Dalam AI hibrida, nilai dari keterlibatan manusia juga terletak pada hal ini. Yaitu, membuat proses yang dalam otomatisasi murni berisiko tetap tidak transparan menjadi dapat dipantau.
Masalah pertama adalah bias. Dalam bidang keuangan, sebagaimana telah disebutkan sebelumnya, masalah ini tidak hanya berasal dari data historis, tetapi juga dari cara model menerjemahkan data tersebut menjadi sinyal operasional. Pengawasan human-in-the-loop yang dirancang dengan baik membantu mendeteksi anomali yang dianggap normal oleh sistem karena telah dipelajari dari data masa lalu.
Namun, kehadiran manusia, secara definisi, tidak menyelesaikan masalah tersebut. Hal itu justru memindahkan masalah ke ranah lain jika tidak disertai disiplin operasional. Seorang auditor dapat memperbaiki suatu keputusan, tetapi juga dapat secara mekanis mengadopsi rekomendasi model tersebut atau memasukkan preferensi subjektif yang sulit dideteksi.
Oleh karena itu, bagi UMKM yang ingin memperoleh ROI nyata dari proyek HITL di sektor keuangan dan ritel, disarankan untuk memperlakukan tiga elemen ini sebagai bagian dari proses, bukan sekadar formalitas audit:
Perbedaan ini memiliki dampak ekonomi langsung. Jika umpan balik dari manusia tidak tercatat dan tidak dapat digunakan kembali, perusahaan harus mengeluarkan biaya dua kali lipat. Pertama untuk teknologi. Kedua untuk peninjauan manual yang tidak menghasilkan pembelajaran.
Masalah kedua adalah pertanggungjawaban. Dalam pengambilan keputusan yang sensitif, mengatakan bahwa "algoritma yang menyarankannya" tidaklah cukup bagi seorang auditor, klien korporat, atau bagian manajemen risiko. Diperlukan rantai pengambilan keputusan yang transparan. Masukan yang digunakan, ambang batas yang memicu eskalasi, intervensi manusia, dan keputusan akhir.
Dari sudut pandang GDPR, pendekatan ini bermanfaat karena memudahkan pembuktian prinsip minimisasi data, pengendalian akses, dan pengawasan atas keputusan yang melibatkan informasi sensitif. Pendekatan ini tidak secara otomatis menjamin kepatuhan. Namun, pendekatan ini mengurangi kelemahan yang umum ditemui dalam proyek AI di UMKM: memiliki model yang berfungsi secara teknis namun sulit dipertanggungjawabkan secara dokumentasi.
Di sinilah banyak inisiatif terhenti. Bukan karena keterbatasan algoritma, melainkan karena belum ada yang menetapkan siapa yang berwenang untuk memperbaiki sebuah rekomendasi, dalam situasi apa, berdasarkan bukti apa, dan dengan tanggung jawab akhir seperti apa.
Bagi seorang pemimpin perusahaan, ujian yang berguna itu sederhana: apakah keputusan ini dapat dijelaskan secara koheren kepada auditor internal, klien, atau otoritas pengawas? Jika jawabannya tidak pasti, risikonya bukanlah sekadar teori. Risiko tersebut bersifat operasional.
Untuk menerapkan langkah-langkah ini secara pragmatis, tanpa menimbulkan kerumitan yang sulit dikelola bagi tim kecil, panduan ELECTE AI yang bertanggung jawab dan penerapan kecerdasan buatan secara etis juga dapat menjadi referensi yang berguna.
Pelajaran terpentingnya adalah: analitik AI dengan keterlibatan manusia bukanlah solusi sementara sambil menunggu AI yang “lebih otonom”. Model ini sering kali merupakan model yang paling matang untuk mengubah analisis data menjadi keputusan yang dapat diandalkan, dapat dijelaskan, dan bermanfaat bagi bisnis.
AI menangani skalabilitas, kecepatan, dan pengenalan pola. Manusia menangani pengecualian, tanggung jawab, dan konteks. Ketika kedua tingkatan ini bekerja sama, perusahaan tidak hanya mendapatkan otomatisasi yang lebih baik. Perusahaan juga mendapatkan kualitas pengambilan keputusan yang lebih baik.
Jika Anda ingin mengubah data mentah menjadi keputusan yang lebih andal tanpa menambah kerumitan operasional, temukan caranya ELECTE, sebuah platform analitik data berbasis AI untuk UKM, dapat mendukung pendekatan Human-in-the-Loop melalui demo yang disesuaikan.
.svg)
.svg)
.svg)
