- Human-in-the-loop (HITL) menggabungkan pengawasan manusia dengan sistem AI untuk meningkatkan akurasi.
- Manusia melakukan intervensi dengan membuat anotasi data, meninjau keluaran AI, menangani eskalasi, dan memandu perbaikan model.
- HITL meningkatkan keandalan, mengurangi bias, memungkinkan pembelajaran berkelanjutan, dan membuat sistem AI lebih transparan.
- Kasus penggunaan mencakup mobil swakemudi, bot ritel, pemeriksaan risiko keuangan, dan keputusan perawatan kesehatan.
Jika Anda berpikir untuk meningkatkan bisnis Anda dengan AI, Anda tidak sendirian. Dengan chatbot AI sebagai saluran komunikasi yang paling cepat berkembang, mereka bukan lagi sebuah kemewahan, melainkan sebuah harapan.
Namun, menyerahkan kendali itu bisa terasa agak menakutkan. Memindahkan operasi penting ke 'algoritme kotak hitam' bisa terasa seperti sebuah lompatan besar.
Dan memang benar, itulah sebabnya mengapa bisnis mengandalkan campur tangan manusia untuk mengarahkan AI. Hampir semua kerangka kerja agen AI menyertakan pengawasan manusia di dalam lingkaran - pengawasan manusia atas operasi AI.
Dalam artikel ini, saya akan menjelaskan apa itu AI, bagaimana cara kerjanya, dan memberikan beberapa contoh bagaimana campur tangan manusia digunakan setiap hari untuk memberi pengguna lebih banyak kontrol atas chatbot dan agen AI.
Apa yang dimaksud dengan human-in-the-loop?
Human-in-the-loop (HITL) adalah pendekatan kolaboratif terhadap AI di mana masukan dari manusia digunakan untuk meningkatkan atau memperluas kemampuan AI. Hal ini dapat berupa data yang diberi catatan oleh manusia, keluaran model yang dikoreksi, atau meminta manusia untuk melakukan tugas-tugas yang lengkap dalam kasus-kasus di mana AI tidak pasti atau dianggap tidak efektif.
Istilah ini bisa jadi sedikit ambigu. Secara teknis , istilah ini mengacu pada keterlibatan manusia dalam siklus hidup aplikasi AI - mulai dari pelabelan data dan evaluasi model hingga pembelajaran aktif dan eskalasi.
Dalam praktiknya, ketika penyedia AI menawarkan fungsionalitas HITL, umumnya berarti pengawasan atas keluaran AI: kesempatan untuk meninjau respons dan meningkatkan interaksi chatbot ke agen manusia.
Bagaimana manusia "berada di dalam lingkaran" dalam AI?
Pipa AI yang diminyaki dengan baik akan memiliki beberapa titik masuk untuk manusia.
AI dilatih untuk menemukan pola dalam data pelatihannya, dan kemudian menggeneralisasi pola-pola ini ke data baru yang tidak terlihat. Kita dapat memutuskan data apa yang dilihat oleh model, tetapi bukan pola apa yang diambil dari data tersebut.
Pada setiap langkah dalam proses ini - pengumpulan data, pelatihan, dan penerapan - tergantung pada orang-orang untuk memastikan model ini bekerja seperti yang diharapkan.
Tergantung di mana dan bagaimana campur tangan manusia ini terjadi, hal ini dapat termasuk dalam salah satu kategori berikut:
Memberikan Umpan Balik untuk Pembelajaran Berkelanjutan
Anda tahu ketika ChatGPT menanyakan kepada Anda mana dari dua tanggapan yang lebih baik? Umpan balik dapat diperlakukan sebagai data baru untuk dilatih oleh model.
Umpan balik tidak harus eksplisit.
Pikirkan tentang rekomendasi media sosial. Model prediktif secara konstan menyarankan konten berdasarkan riwayat Anda. Saat Anda menggunakan platform ini, pilihan konten Anda digunakan sebagai data untuk terus melatih model rekomendasi.
Dalam hal ini, Anda adalah manusia. Dan dalam menggunakan aplikasi ini, Anda berperan sebagai pemandu untuk rekomendasi di masa depan.
Di sinilah model ini berputar penuh: model dilatih dengan data, pengguna berinteraksi dengan model, dan interaksi ini pada gilirannya menciptakan data yang kemudian dilatih lagi oleh model.
Menangani Situasi yang Meningkat
HITL tidak selalu tentang memperbaiki sistem. Kadang-kadang, ini adalah tentang menyerahkan kasus-kasus sulit kepada manusia.
Pertimbangkan chatbot dukungan pelanggan. Chatbot ini meringankan sebagian besar pekerjaan tim Anda dengan menjawab 95% pertanyaan dengan jelas, ringkas, dan akurat.
Namun, ada juga yang 5% itu.
Beberapa kasus akan sangat spesifik atau tidak jelas sehingga berada di luar jangkauan AI. Meskipun intervensi manusia tidak memperbaiki model dalam kasus ini, ini adalah contoh yang bagus tentang bagaimana manusia dan pembelajaran mesin dapat bekerja secara simbiosis.
Anotasi Data untuk Pelatihan
Secara teknis, hampir semua machine learning dibangun dengan mekanisme HITL. Oleh karena itu, ketika kita berbicara tentang HITL, sebagian besar kita mengacu pada kategori di atas.
Meskipun demikian, saya akan lalai jika saya tidak memberikan perhatian pada tenaga kerja dan keahlian manusia dalam lingkaran pembelajaran mesin.
Data adalah tulang punggung AI, dan AI bergantung pada manusia. Model AI dilatih untuk memprediksi label berdasarkan data masukan. Label adalah hasil yang diharapkan dari AI, dan terserah kepada manusia untuk membuatnya.
Beberapa contoh pelabelan manusia meliputi:
- Tanggapan tulisan tangan terhadap permintaan untuk melatih model bahasa besarLLMs)
- Mentranskripsikan file audio untuk model pengenalan suara.
- Membuat anotasi objek dalam gambar untuk model pendeteksian objek
- Menandai email sampel sebagai spam atau bukan spam untuk detektor spam klien email
Mengevaluasi Kinerja Model
Bagian terbesar dari waktu yang dihabiskan untuk membangun model AI adalah mencari cara untuk membuatnya lebih baik. Meskipun ada banyak sekali metrik yang dapat Anda hitung, seperti presisi dan recall, dibutuhkan wawasan ahli untuk mengetahui bagaimana model bekerja, dan yang lebih penting, apa yang harus dilakukan.
Sebagai contoh, seorang peneliti mungkin memperhatikan bahwa model ini sangat bagus dalam mengidentifikasi gambar anjing, tetapi tidak untuk hot dog. Hal ini biasanya dapat diperbaiki dengan menambahkan atau mendiversifikasi gambar hot dog.
Terkadang model obrolan akan kesulitan mengingat informasi dari pesan sebelumnya. Seorang peneliti biasanya akan mengatasi hal ini dengan membuat penyesuaian tingkat rendah pada arsitektur model atau metode pembuatan model.
Manfaat dari AI Human-in-the-Loop
AI mungkin sangat efisien dan efektif dalam mengenali pola-pola yang halus, tetapi manusia itu cerdas.
HITL adalah tentang menggabungkan nuansa tingkat manusia dengan efisiensi otomatisasi alur kerja AI sehingga respons disesuaikan dengan pengalaman yang dicari oleh pengguna dan penyedia.
1. Akurasi dan Keandalan
Yang satu ini tidak perlu diragukan lagi. Apa yang lebih baik dari AI biasa? AI yang sudah diperbaiki.
Tidak hanya dioptimalkan untuk menangani kasus-kasus tepi, tetapi juga dapat diandalkan dalam arti bahwa pengguna tahu bahwa output akan terus ditinjau dan ditingkatkan.
2. Mitigasi Bias
Data tidak sempurna, dan keluaran model akan mencerminkan hal tersebut. Bias - condong ke arah keluaran tertentu daripada yang lain - adalah masalah di seluruh pembelajaran mesin dan AI.
Hal-hal seperti pembuatan gambar yang bermuatan rasial, atau menentukan kualifikasi pekerjaan berdasarkan jenis kelamin adalah contoh cara AI mencerminkan bias yang ada dalam data pelatihan.
HITL memungkinkan orang untuk menandai masalah-masalah ini dan mengarahkan model ke arah hasil yang lebih adil.
3. Peningkatan dan Kemampuan Beradaptasi yang Berkelanjutan
Pelatihan tidak berakhir hanya karena model telah diproduksi. HITL memungkinkan model untuk terus berlatih pada data baru untuk menggeneralisasi dengan lebih baik di seluruh kasus yang belum pernah terjadi.
Sebagai contoh, mengedit teks yang dihasilkan atau mengikuti pilihan konten pengguna menawarkan lebih banyak data yang dapat digunakan oleh model untuk meningkatkannya.
Namun, tidak cukup hanya dengan memperbaiki model; model juga harus berubah.
Sangat mudah untuk menganggap remeh cara kita beradaptasi dengan dunia yang terus berubah. Dengan AI, hal ini tidak lagi menjadi masalah. HITL menggabungkan keahlian dan penilaian yang bernuansa untuk menjaga agar output model tetap selaras dengan perkembangan zaman.
4. Transparansi dan Kepercayaan
Melibatkan manusia membuat keputusan AI menjadi lebih transparan. Dengan adanya manusia yang mengoreksi hasil atau menyelesaikan kasus dengan tingkat kepastian rendah, pengguna dapat diyakinkan bahwa mereka berinteraksi dengan algoritme yang masuk akal.
Hal ini membuat kita tetap memegang kendali atas AI, dan bukan sebaliknya.
Kasus Penggunaan Human-in-the-Loop
1. Mengemudi sendiri
Dengan nilai pasar yang diproyeksikan mencapai USD 3,9 triliun dalam satu dekade ke depan, swakemudi mungkin akan menjadi terobosan besar berikutnya dalam AI. Teknologi ini memanfaatkan model pendeteksian objek dan pengambilan keputusan saat itu juga untuk mensimulasikan cara mengemudi seseorang.
Tetapi untuk sesuatu yang begitu lepas tangan, sistem ini sangat bergantung pada manusia. Model terus mengamati pola mengemudi manusia, dan membandingkan pengambilan keputusan mereka dengan prediksinya sendiri.
2. Ritel
Chatbot ritel adalah cara terbaik untuk mengotomatiskan interaksi pelanggan sambil tetap menawarkan pengalaman yang dipersonalisasi. HITL memungkinkan Anda menjaga pengalaman tersebut tetap lancar dan selaras dengan bisnis Anda. Sebagai contoh, Anda bisa:
- Tinjau dan perbaiki rekomendasi produk bot
- Mintalah pelanggan untuk membicarakan kebutuhan dasar mereka sebelum mengirim ke agen manusia
3. Keuangan
Chatbot keuangan adalah cara terbaik untuk menyelaraskan otomatisasi AI dan keahlian manusia.
Sistem pendeteksi penipuan sangat bagus dalam mendeteksi aktivitas yang mencurigakan dalam transaksi. Namun tidak semua aktivitas mencurigakan itu jahat, dan Anda tidak ingin kartu Anda dibatalkan setiap kali Anda mengganti pesanan kopi.
HITL dapat menunda kasus-kasus yang memiliki kepastian rendah dan berisiko rendah kepada manusia.
Penilaian risiko pinjaman adalah area lain di mana AI unggul - AI sangat baik dalam menghitung probabilitas di semua jenis data yang tampaknya tidak terkait. Data tersebut hampir pasti mengandung bias.
Menjaga keadilan dan mengurangi bias sering kali membutuhkan bantuan orang yang nyata.
4. Perawatan Kesehatan
Pengguna reddit yang nyawanya diselamatkan oleh Claude akan menjadi orang pertama yang memperjuangkan potensi AI dalam bidang kesehatan.
Chatbot AI medis telah menunjukkan beberapa potensinya, tetapi lebih dari itu: AI dapat membantu menentukan diagnosis berdasarkan pembacaan MRI, atau menyarankan tindak lanjut berdasarkan hasil tes. Tapi saya belum siap untuk melupakan dokter.
HITL menawarkan yang terbaik dari kedua dunia: menangkap kasus-kasus yang mungkin terlewatkan oleh dokter, namun tetap memungkinkan mereka untuk membuat keputusan akhir.
Gunakan Kecerdasan Buatan yang Ditambah Manusia Hari Ini
Botpress memiliki ribuan bot yang dikerahkan dengan pengawasan manusia tanpa batas, dan ini adalah platform agen AI paling fleksibel di pasar.
Botpress hadir dengan integrasi HITL, pembangun visual seret dan lepas, dan penerapan di semua saluran komunikasi populer (termasuk Slack, Telegram, WhatsApp, web), jadi menggunakan AI tidak berarti melepaskan sentuhan pribadi Anda.
Mulai membangun hari ini. Gratis.
Hal-hal yang sering ditanyakan
Bagaimana saya tahu jika sistem AI saya membutuhkan keterlibatan manusia di dalamnya?
Sistem AI Anda mungkin membutuhkan keterlibatan manusia dalam proses jika menangani keputusan berisiko tinggi, sering menghadapi situasi yang ambigu atau langka, berisiko menghasilkan output yang bias atau berbahaya, atau beroperasi di area di mana akurasi mutlak dan penilaian manusia sangat penting untuk kepatuhan atau kepercayaan pelanggan.
Dapatkah human-in-the-loop digunakan dalam proses bisnis non-teknis, atau hanya dalam model AI?
Human-in-the-loop dapat digunakan dalam proses bisnis non-teknis seperti meninjau keluhan pelanggan atau memoderasi konten, karena hal ini berarti memasukkan penilaian manusia ke dalam alur kerja otomatis apa pun di mana keputusan mesin saja tidak cukup.
Apakah dengan menggunakan human-in-the-loop berarti sistem AI saya kurang canggih?
Menggunakan human-in-the-loop tidak berarti sistem AI Anda kurang canggih. Hal ini menunjukkan bahwa Anda memprioritaskan keamanan dan keadilan dengan menggabungkan kecepatan dan pengenalan pola AI dengan penilaian manusia untuk mengambil keputusan yang bernuansa, yang sering kali sangat penting.
Apakah AI human-in-the-loop hemat biaya untuk bisnis kecil, atau hanya untuk perusahaan besar?
AI human-in-the-loop semakin hemat biaya untuk bisnis kecil karena alat modern memungkinkan Anda untuk secara selektif melibatkan manusia hanya untuk kasus-kasus yang rumit, meminimalkan biaya tenaga kerja sambil tetap meningkatkan akurasi dan kepercayaan tanpa memerlukan tenaga kerja yang besar.
Berapa biaya yang dibutuhkan untuk menambahkan proses human-in-the-loop ke sistem AI?
Menambahkan proses human-in-the-loop dapat memakan biaya mulai dari yang minimal - jika Anda menggunakan staf internal sesekali - hingga yang signifikan, mencapai ratusan atau ribuan dollars setiap bulannya jika Anda membutuhkan peninjau khusus atau kontraktor khusus, dengan biaya yang sebagian besar ditentukan oleh volume dan kerumitan tugas yang harus ditangani oleh manusia.
.webp)
