- Human-in-the-loop (HITL) menggabungkan pengawasan manusia dengan sistem AI untuk meningkatkan ketepatan.
- Manusia campur tangan dengan menganotasi data, menyemak output AI, mengendalikan peningkatan dan membimbing penambahbaikan model.
- HITL meningkatkan kebolehpercayaan, mengurangkan berat sebelah, membolehkan pembelajaran berterusan dan menjadikan sistem AI lebih telus.
- Kes penggunaan merangkumi kereta pandu sendiri, bot runcit, semakan risiko kewangan dan keputusan penjagaan kesihatan.
Jika anda berfikir untuk meningkatkan perniagaan anda dengan AI, anda tidak bersendirian. Dengan AI chatbots menjadi saluran komunikasi yang paling pesat berkembang , mereka bukan lagi kemewahan– ia adalah satu jangkaan.
Tetapi melepaskan kawalan itu boleh berasa agak menakutkan. Memunggah operasi penting kepada apa yang dipanggil 'algoritma kotak hitam' boleh dirasakan seperti lompatan besar kepercayaan.
Dan itulah sebabnya perniagaan bergantung pada campur tangan manusia untuk mengemudi AI. Hampir semua rangka kerja ejen AI termasuk pengawasan manusia-dalam-gelung– manusia ke atas operasi AI.

Dalam artikel ini, saya akan menerangkan apa itu, cara ia berfungsi dan memberikan beberapa contoh cara campur tangan manusia digunakan setiap hari untuk memberi pengguna lebih kawalan ke atas chatbot dan ejen AI .
Apakah itu manusia-dalam-gelung?
Human-in-the-loop (HITL) ialah pendekatan kolaboratif kepada AI di mana input manusia digunakan untuk menambah baik atau memanjangkan keupayaan AI. Ini boleh dalam bentuk data beranotasi manusia, output model yang diperbetulkan atau meminta manusia melaksanakan tugas yang lengkap dalam kes di mana AI tidak pasti atau dianggap tidak berkesan.
Istilahnya boleh ambik sikit. Ia secara teknikal merujuk kepada sebarang penglibatan manusia dalam kitaran hayat aplikasi AI– daripada pelabelan data dan penilaian model kepada pembelajaran aktif dan peningkatan .
Dalam praktiknya, apabila penyedia AI menawarkan fungsi HITL, ini secara amnya bermakna pengawasan terhadap output AI: peluang untuk menyemak respons dan meningkatkan interaksi chatbot kepada ejen manusia.
Bagaimanakah manusia "dalam gelung" dalam AI?
Saluran paip AI yang diminyak dengan baik akan mempunyai beberapa pintu masuk untuk manusia.
AI dilatih untuk mendedahkan corak dalam data latihannya, dan kemudian menggeneralisasikan corak ini kepada data baharu yang tidak kelihatan. Kita boleh memutuskan data yang dilihat oleh model, tetapi bukan corak yang diambil daripada data.
Pada setiap langkah dalam proses– pengumpulan data, latihan dan penggunaan– terpulang kepada orang ramai untuk memastikan model berfungsi seperti yang diharapkan.
Bergantung pada tempat dan cara campur tangan manusia ini berlaku, ia boleh termasuk dalam mana-mana kategori berikut:
Memberi Maklum Balas untuk Pembelajaran Berterusan
Anda tahu bila ChatGPT bertanya kepada anda yang manakah antara dua jawapan yang lebih baik? Maklum balas boleh dianggap sebagai data baharu untuk model untuk dilatih.

Maklum balas tidak semestinya eksplisit.
Fikirkan cadangan media sosial. Model ramalan sentiasa mencadangkan kandungan berdasarkan sejarah anda. Semasa anda menggunakan platform, pilihan kandungan anda digunakan sebagai data untuk melatih model pengesyoran secara berterusan.
Dalam kes ini, anda adalah manusia. Dan dalam menggunakan apl, anda bertindak sebagai panduan untuk pengesyoran masa hadapan.
Di sinilah ia datang bulatan penuh: model dilatih mengenai data, pengguna berinteraksi dengan model, dan interaksi ini seterusnya mencipta data yang model itu sekali lagi dilatih.
Mengendalikan Situasi Meningkat
HITL tidak semestinya tentang menambah baik sistem. Kadang-kadang ia mengenai menunda kes sukar kepada manusia.
Pertimbangkan chatbot sokongan pelanggan . Ia memuatkan sebahagian besar kerja pasukan anda dengan menjawab 95% soalan dengan jelas, padat dan tepat.
Tetapi kemudian ada 5%.
Sesetengah kes akan menjadi sangat khusus atau cukup kabur sehinggakan ia baru sahaja keluar dari ruang roda AI. Walaupun campur tangan manusia tidak menambah baik model dalam kes ini, ini adalah contoh yang bagus tentang cara manusia dan pembelajaran mesin boleh berfungsi secara simbiotik.
Menganotasi Data untuk Latihan
Dari segi teknikal, hampir semua pembelajaran mesin dibina dengan mekanisme HITL. Atas sebab itu, apabila kita bercakap tentang HITL, kita kebanyakannya merujuk kepada kategori di atas.
Walau bagaimanapun, saya akan lalai jika saya tidak memberi perhatian kepada tenaga kerja manusia dan kepakaran dalam gelung pembelajaran mesin.
Data adalah tulang belakang AI, dan ia bergantung pada manusia. Model AI dilatih untuk meramalkan label berdasarkan data input . Label ialah keluaran AI yang diharapkan, dan terpulang kepada kita manusia untuk membuatnya.
Beberapa contoh pelabelan manusia termasuk:
- Respons tulisan tangan kepada gesaan untuk melatih model bahasa yang besar ( LLMs )
- Mentranskripsi fail audio untuk model pengecaman pertuturan .
- Menganotasi objek dalam imej untuk model pengesanan objek
- Menandai sampel e-mel sebagai spam-atau-bukan-spam untuk pengesan spam klien e-mel
Menilai Prestasi Model
Bahagian terbesar masa yang dihabiskan untuk membina model AI adalah memikirkan cara untuk menjadikannya lebih baik. Walaupun terdapat metrik yang tidak berkesudahan yang boleh anda kira, seperti ketepatan dan ingatan semula , ia memerlukan cerapan pakar untuk mengetahui cara model itu berfungsi, dan yang lebih penting, perkara yang perlu dilakukan mengenainya.
Sebagai contoh, seorang penyelidik mungkin melihat model itu hebat dalam mengenal pasti imej anjing, tetapi bukan anjing panas . Itu biasanya boleh diperbaiki dengan menambah atau mempelbagaikan gambar hot dog.
Kadangkala model sembang akan bergelut untuk mengingati maklumat daripada mesej sebelumnya. Seorang penyelidik biasanya akan menangani perkara ini dengan membuat pelarasan peringkat rendah pada seni bina atau kaedah penjanaan model.
Faedah AI Human-in-the-Loop
AI mungkin sangat cekap dan berkesan dalam mengenali corak halus, tetapi orang ramai bijak .
HITL adalah mengenai menggabungkan tahap nuansa manusia dengan kecekapan automasi aliran kerja AI supaya respons disesuaikan dengan pengalaman yang dicari oleh pengguna dan penyedia.
1. Ketepatan dan Kebolehpercayaan
Yang ini tidak berakal. Apa yang lebih baik daripada AI biasa? AI yang telah diperbetulkan.
Ia bukan sahaja dioptimumkan untuk menangani kes kelebihan tetapi ia boleh dipercayai dalam erti kata pengguna mengetahui bahawa output akan disemak dan diperbaiki secara berterusan.

2. Mitigasi Berat sebelah
Data tidak sempurna, dan output model akan mencerminkannya. Bias– condong ke arah output tertentu berbanding yang lain– ialah masalah merentas pembelajaran mesin dan AI.
Perkara seperti penjanaan imej berbaur perkauman, atau menentukan kelayakan pekerjaan mengikut jantina ialah contoh cara AI mencerminkan bias yang terdapat dalam data latihan.
HITL membenarkan orang ramai membenderakan isu ini dan mengarahkan model ke arah hasil yang lebih adil.
3. Penambahbaikan Berterusan dan Kebolehsuaian
Latihan tidak berakhir hanya kerana model sedang dalam pengeluaran. HITL membenarkan model terus melatih data baharu untuk membuat generalisasi yang lebih baik merentas kes yang tidak kelihatan.
Contohnya, mengedit teks yang dijana atau mengikuti pilihan kandungan pengguna menawarkan lebih banyak data yang boleh digunakan oleh model untuk menambah baik.
Tetapi ia tidak mencukupi untuk model bertambah baik; ia juga harus berubah.
Sangat mudah untuk mengambil mudah cara kita menyesuaikan diri dengan dunia yang sentiasa berubah. Dengan AI, ini bukan sesuatu yang diberikan. HITL menggabungkan kepakaran dan pertimbangan bernuansa untuk memastikan output model sejajar dengan masa.
4. Ketelusan dan Amanah
Melibatkan manusia menjadikan keputusan AI lebih telus. Dengan orang yang membetulkan output atau menyelesaikan kes kepastian rendah, pengguna boleh diyakinkan bahawa mereka berinteraksi dengan algoritma yang wajar.
Ia memastikan kita mengawal AI, dan bukan sebaliknya.
Gunakan Kes Human-in-the-Loop
1. Memandu sendiri

Dengan nilai pasaran yang diunjurkan mencecah USD 3.9 trilion sepanjang dekad akan datang, memandu sendiri mungkin menjadi sempadan besar seterusnya dalam AI. Ia memanfaatkan model pengesanan objek dan membuat keputusan detik demi detik untuk mensimulasikan pemanduan seseorang.
Tetapi untuk sesuatu yang lepas tangan, ia sangat bergantung pada manusia. Model sentiasa memerhati corak pemanduan manusia, dan membandingkan pembuatan keputusan mereka dengan ramalannya sendiri.
2. Runcit
Chatbot runcit ialah cara terbaik untuk mengautomasikan interaksi pelanggan sambil masih menawarkan pengalaman yang diperibadikan. HITL membolehkan anda memastikan pengalaman itu lancar dan sejajar dengan perniagaan anda. Sebagai contoh, anda boleh:
- Semak dan betulkan cadangan produk bot
- Minta pelanggan bercakap mengenai keperluan asas mereka sebelum menghantar kepada ejen manusia
3. Kewangan
Bot sembang kewangan ialah cara terbaik untuk menyesuaikan antara automasi AI dan kepakaran manusia.
Sistem pengesanan penipuan hebat dalam memilih aktiviti yang mencurigakan dalam urus niaga. Tetapi tidak semua aktiviti yang mencurigakan adalah jahat, dan anda tidak mahu kad anda dibatalkan setiap kali anda menukar pesanan kopi anda.
HITL boleh menangguhkan kes kepastian rendah dan berisiko rendah kepada manusia.
Penilaian risiko pinjaman ialah satu lagi bidang di mana AI cemerlang– ia bagus untuk mengira kebarangkalian merentas semua jenis data yang kelihatan tidak berkaitan. Data itu hampir pasti akan merangkumi beberapa berat sebelah, walaupun.
Mengekalkan keadilan dan mengurangkan berat sebelah selalunya memerlukan bantuan orang sebenar.
4. Penjagaan kesihatan

Pengguna reddit yang nyawanya telah diselamatkan oleh Claude akan menjadi yang pertama memperjuangkan potensi AI dalam penjagaan kesihatan.
Chatbot AI perubatan telah mempamerkan beberapa potensinya, tetapi ia melampaui itu: AI boleh membantu menentukan diagnosis berdasarkan bacaan MRI, atau mencadangkan susulan berdasarkan keputusan ujian. Tetapi saya tidak bersedia untuk meninggalkan doktor.
HITL menawarkan yang terbaik dari kedua-dua dunia: menangkap kes yang doktor mungkin terlepas, sementara masih membenarkan mereka membuat panggilan terakhir.
Gunakan AI Ditambah Manusia Hari Ini
Botpress mempunyai beribu-ribu bot yang digunakan dengan pengawasan manusia yang lancar, dan ia merupakan platform ejen AI yang paling fleksibel di pasaran.
Botpress didatangkan dengan penyepaduan HITL, pembina seret dan lepas visual dan penggunaan merentas semua saluran komunikasi popular (termasuk Slack , Telegram , WhatsApp , web), jadi menggunakan AI tidak bermakna melepaskan sentuhan peribadi anda.
Mula membina hari ini . Ia percuma.
Soalan lazim
Bagaimanakah saya tahu jika sistem AI saya memerlukan penglibatan manusia-dalam-gelung?
Sistem AI anda berkemungkinan memerlukan penglibatan manusia dalam gelung jika ia mengendalikan keputusan berkepentingan tinggi, kerap menghadapi situasi yang samar-samar atau jarang berlaku, berisiko menghasilkan output yang berat sebelah atau berbahaya, atau beroperasi di kawasan yang ketepatan mutlak dan pertimbangan manusia adalah penting untuk pematuhan atau kepercayaan pelanggan.
Bolehkah human-in-the-loop digunakan dalam proses perniagaan bukan teknikal, atau hanya dalam model AI?
Human-in-the-loop boleh digunakan dalam proses perniagaan bukan teknikal seperti menyemak aduan pelanggan atau menyederhanakan kandungan, kerana ini bermakna memasukkan pertimbangan manusia ke dalam mana-mana aliran kerja automatik yang keputusan mesin sahaja mungkin tidak mencukupi.
Adakah menggunakan human-in-the-loop bermakna sistem AI saya kurang maju?
Menggunakan human-in-the-loop tidak bermakna sistem AI anda kurang maju. Ia menunjukkan anda mengutamakan keselamatan dan keadilan dengan menggabungkan kepantasan dan pengecaman corak AI dengan pertimbangan manusia untuk keputusan yang bernuansa, yang selalunya penting.
Adakah AI manusia-dalam-gelung berkesan kos untuk perniagaan kecil, atau hanya untuk perusahaan besar?
AI Human-in-the-loop semakin menjimatkan kos untuk perniagaan kecil kerana alatan moden membolehkan anda secara selektif melibatkan manusia hanya untuk kes rumit, meminimumkan kos buruh sambil masih meningkatkan ketepatan dan kepercayaan tanpa memerlukan tenaga kerja yang besar.
Berapakah kos untuk menambah proses manusia-dalam-gelung pada sistem AI?
Menambah proses manusia-dalam-gelung boleh menelan kos di mana-mana sahaja daripada yang minimum — jika anda menggunakan kakitangan dalaman sekali-sekala — hingga yang ketara, mencecah ratusan atau ribuan dollars bulanan jika anda memerlukan penyemak khusus atau kontraktor khusus, dengan kos didorong sebahagian besarnya oleh volum dan kerumitan tugas yang mesti dikendalikan oleh manusia.