- Döngü içinde insan (HITL), doğruluğu artırmak için insan gözetimini yapay zeka sistemleriyle birleştirir.
- İnsanlar, verilere açıklama ekleyerek, yapay zeka çıktılarını gözden geçirerek, eskalasyonları ele alarak ve model iyileştirmelerine rehberlik ederek müdahale eder.
- HITL güvenilirliği artırır, önyargıları azaltır, sürekli öğrenmeyi mümkün kılar ve yapay zeka sistemlerini daha şeffaf hale getirir.
- Kullanım alanları sürücüsüz arabalar, perakende botları, finans risk kontrolleri ve sağlık hizmetleri kararlarını kapsamaktadır.
İşinizi yapay zeka ile geliştirmeyi düşünüyorsanız, yalnız değilsiniz. En hızlı büyüyen iletişim kanalı olan yapay zekalı sohbet robotları artık bir lüks değil, bir beklenti.
Ancak bu kontrolden vazgeçmek biraz korkutucu gelebilir. Önemli işlemleri 'kara kutu algoritması' olarak adlandırılan bir algoritmaya devretmek büyük bir inanç sıçraması gibi gelebilir.
İşte bu yüzden işletmeler YZ'yi yönlendirmek için insan müdahalesine güveniyor. Neredeyse tüm YZ aracı çerçeveleri, döngü içinde insan - YZ operasyonları üzerinde insan gözetimi - içerir.

Bu makalede, bunun ne olduğunu, nasıl çalıştığını açıklayacağım ve kullanıcılara yapay zeka sohbet robotları ve temsilcileri üzerinde daha fazla kontrol sağlamak için insan müdahalesinin günlük olarak nasıl kullanıldığına dair bazı örnekler vereceğim.
Döngü içinde insan nedir?
Döngüde İnsan (HITL), YZ'nin yeteneklerini geliştirmek veya genişletmek için insan girdisinin kullanıldığı YZ'ye yönelik işbirlikçi bir yaklaşımdır. Bu, insan tarafından yorumlanmış veriler, düzeltilmiş model çıktıları veya YZ'nin belirsiz olduğu veya etkisiz kaldığı durumlarda insanların eksiksiz görevleri yerine getirmesi şeklinde olabilir.
Bu terim biraz muğlak olabilir. Teknik olarak, veri etiketleme ve model değerlendirmeden aktif öğrenme ve eskalasyonlara kadar yapay zeka uygulamalarının yaşam döngüsüne herhangi bir insan katılımını ifade eder.
Uygulamada, YZ sağlayıcıları HITL işlevselliği sunduğunda, bu genellikle YZ çıktıları üzerinde gözetim anlamına gelir: yanıtları gözden geçirme ve chatbot etkileşimlerini insan temsilcilere iletme fırsatı.
Yapay zekada insanlar nasıl "döngüde" yer alıyor?
İyi yağlanmış bir yapay zeka boru hattında insanlar için birkaç giriş noktası olacaktır.
Yapay zeka, eğitim verilerindeki kalıpları ortaya çıkarmak ve ardından bu kalıpları yeni, görülmemiş verilere genellemek için eğitilir. Modelin hangi verileri göreceğine biz karar veririz, ancak bu verilerden hangi kalıpları çıkaracağına biz karar veremeyiz.
Sürecin her adımında - veri toplama, eğitim ve dağıtım - modelin beklendiği gibi çalıştığından emin olmak insanların sorumluluğundadır.
Bu insan müdahalesinin nerede ve nasıl gerçekleştiğine bağlı olarak, aşağıdaki kategorilerden herhangi birine girebilir:
Sürekli Öğrenme için Geri Bildirim Sağlama
ChatGPT 'nin size iki yanıttan hangisinin daha iyi olduğunu sorduğunu biliyor musunuz? Geri bildirim, modelin eğitilmesi için yeni veri olarak değerlendirilebilir.

Yine de geri bildirimin açık olması gerekmez.
Sosyal medya önerilerini düşünün. Tahmine dayalı bir model, geçmişinize dayalı olarak sürekli içerik öneriyor. Siz platformu kullandıkça, içerik seçiminiz öneri modelini sürekli eğitmek için veri olarak kullanılır.
Bu durumda, insan sizsiniz. Ve uygulamayı kullanarak, gelecekteki öneriler için bir rehber görevi görüyorsunuz.
İşte tam da bu noktada iş başa düşüyor: model veriler üzerinde eğitiliyor, kullanıcılar modelle etkileşime giriyor ve bu etkileşimler de modelin bir kez daha üzerinde eğitildiği verileri oluşturuyor.
Tırmanan Durumların Ele Alınması
HITL mutlaka sistemi iyileştirmekle ilgili değildir. Bazen zor vakaları insanlara havale etmekle ilgilidir.
Bir müşteri destek sohbet robotu düşünün. Soruların %95'ini net, kısa ve doğru bir şekilde yanıtlayarak ekibinizin iş yükünün büyük bir kısmını hafifletir.
Ama bir de o %5 var.
Bazı vakalar aşırı spesifik veya yapay zekanın ilgi alanının dışında kalacak kadar belirsiz olabilir. İnsan müdahalesi bu durumda modeli iyileştirmese de, bu, insanların ve makine öğreniminin simbiyotik olarak nasıl çalışabileceğine dair harika bir örnektir.
Eğitim için Verilere Açıklama Ekleme
Teknik olarak konuşmak gerekirse, hemen hemen tüm makine öğrenimi bir HITL mekanizması ile oluşturulmuştur. Bu nedenle, HITL hakkında konuştuğumuzda, çoğunlukla yukarıdaki kategorilere atıfta bulunuyoruz.
Bununla birlikte, makine öğrenimi döngüsündeki insan emeğine ve uzmanlığına dikkat çekmezsem ihmalkâr davranmış olurum.
Veri, yapay zekanın bel kemiğidir ve insanlara dayanır. YZ modelleri, giriş verilerine dayalı olarak etiketleri tahmin etmek üzere eğitilir. Etiketler YZ'nin beklenen çıktılarıdır ve bunları oluşturmak biz insanlara bağlıdır.
İnsan etiketlemesinin bazı örnekleri şunlardır:
- Büyük dil modelleriniLLMs'ler) eğitmek için istemlere elle yazılan yanıtlar
- Konuşma tanıma modelleri için ses dosyalarının transkripsiyonu.
- Nesne algılama modelleri için görüntülerdeki nesnelere açıklama ekleme
- Bir e-posta istemcisinin spam algılayıcısı için örnek e-postaları spam ya da spam değil olarak işaretleme
Model Performansının Değerlendirilmesi
Yapay zeka modelleri oluşturmak için harcanan zamanın aslan payı, bunların nasıl daha iyi hale getirileceğini bulmaktır. Kesinlik ve geri çağırma gibi hesaplayabileceğiniz sayısız metrik olsa da, modelin nasıl çalıştığını ve daha da önemlisi bu konuda ne yapılması gerektiğini anlamak için uzman görüşü gerekir.
Örneğin bir araştırmacı modelin köpek resimlerini tanımlamada çok başarılı olduğunu ancak sosisli sandviçleri tanımlayamadığını fark edebilir. Bu durum genellikle sosisli köpek resimleri eklenerek veya çeşitlendirilerek düzeltilebilir.
Bazen bir sohbet modeli önceki mesajlardaki bilgileri hatırlamakta zorlanabilir. Bir araştırmacı genellikle modelin mimarisinde veya üretim yönteminde düşük seviyeli ayarlamalar yaparak bunun üstesinden gelecektir.
Döngü İçinde İnsan Yapay Zekasının Faydaları
Yapay zeka, ince kalıpları tanımada inanılmaz derecede verimli ve etkili olabilir, ancak insanlar akıllıdır.
HITL, insani nüans seviyesini yapay zeka iş akışı otomasyonunun verimliliği ile birleştirmekle ilgilidir, böylece yanıtlar kullanıcıların ve sağlayıcıların aradığı deneyime göre uyarlanır.
1. Doğruluk ve Güvenilirlik
Bu hiç de akıllıca değil. Düz yapay zekadan daha iyi olan nedir? Düzeltilmiş yapay zeka.
Yalnızca uç durumların üstesinden gelmek için optimize edilmekle kalmaz, aynı zamanda kullanıcıların çıktıların sürekli olarak gözden geçirileceğini ve geliştirileceğini bilmesi açısından güvenilirdir.

2. Önyargı Azaltma
Veriler kusurludur ve model çıktıları bunu yansıtacaktır. Önyargı - belirli çıktıların diğerlerine göre çarpık olması - makine öğrenimi ve yapay zeka genelinde bir sorundur.
Irkçı imaj oluşturma veya cinsiyete göre iş yeterliliğini belirleme gibi şeyler, yapay zekanın eğitim verilerinde bulunan önyargıları yansıtma biçimine örnektir.
HITL, insanların bu sorunları işaretlemesine ve modeli daha adil sonuçlara doğru yönlendirmesine olanak tanır.
3. Sürekli İyileştirme ve Uyarlanabilirlik
Bir model üretimde olduğu için eğitim sona ermez. HITL, modelin görülmemiş vakalarda daha iyi genelleme yapabilmesi için yeni veriler üzerinde eğitime devam etmesini sağlar.
Örneğin, oluşturulan metni düzenlemek veya kullanıcıların içerik seçimlerini takip etmek, modelin iyileştirmek için kullanabileceği daha fazla veri parçası sunar.
Ancak bir modelin gelişmesi yeterli değildir; aynı zamanda değişmesi de gerekir.
Sürekli değişen bir dünyaya uyum sağlama yöntemlerimizi hafife almak kolaydır. Yapay zeka söz konusu olduğunda, bu bir veri değildir. HITL, bir modelin çıktısını zamanla uyumlu tutmak için uzmanlığı ve incelikli muhakemeyi birleştirir.
4. Şeffaflık ve Güven
İnsanları dahil etmek yapay zekanın kararlarını daha şeffaf hale getirir. İnsanların çıktıları düzeltmesi veya düşük kesinlikli durumları çözmesi sayesinde kullanıcılar mantıklı bir algoritma ile etkileşimde bulundukları konusunda rahatlayabilirler.
Yapay zekanın kontrolünün bizde olmasını sağlıyor, tersi değil.
Döngüde İnsan Kullanım Örnekleri
1. Kendi kendine sürüş

Önümüzdeki on yıl içinde 3,9 trilyonUSD ulaşacağı tahmin edilen pazar değeriyle otonom sürüş, yapay zekada bir sonraki büyük sınır olabilir. Bir kişinin sürüşünü simüle etmek için nesne algılama modellerinden ve an be an karar verme sürecinden yararlanır.
Ancak bu kadar kontrollü bir şey için, oldukça büyük ölçüde insanlara güveniyor. Modeller sürekli olarak insanların sürüş modellerini gözlemliyor ve karar verme süreçlerini kendi tahminleriyle karşılaştırıyor.
2. Perakende
Perakende sohbet robotu, kişiselleştirilmiş bir deneyim sunarken müşteri etkileşimlerini otomatikleştirmenin harika bir yoludur. HITL, bu deneyimi sorunsuz ve işinizle uyumlu hale getirmenizi sağlar. Örneğin, şunları yapabilirsiniz
- Botun ürün önerilerini gözden geçirin ve düzeltin
- Bir müşteri temsilcisine yönlendirmeden önce müşterinin temel ihtiyaçları hakkında konuşmasını sağlayın
3. Finans
Finans sohbet robotları, yapay zeka otomasyonu ve insan uzmanlığı arasında geçiş yapmak için harika bir yoldur.
Dolandırıcılık tespit sistemleri, işlemlerdeki şüpheli faaliyetleri tespit etmede harikadır. Ancak tüm şüpheli faaliyetler kötü niyetli değildir ve kahve siparişinizi her değiştirdiğinizde kartınızın iptal edilmesini istemezsiniz.
HITL düşük kesinlikli, düşük riskli vakaları insanlara erteleyebilir.
Kredi riski değerlendirmesi, yapay zekanın mükemmel olduğu bir başka alandır - görünüşte ilgisiz olan her türlü veride olasılıkları hesaplamada harikadır. Yine de bu veriler neredeyse kesinlikle bir miktar önyargı içerecektir.
Adaleti sağlamak ve önyargıları azaltmak genellikle gerçek bir kişinin yardımına ihtiyaç duyar.
4. Sağlık Hizmetleri

Claude tarafından hayatı kurtarılan reddit kullanıcısı, sağlık hizmetlerinde yapay zeka potansiyelini savunan ilk kişi olacak.
Tıbbi yapay zeka sohbet robotları potansiyelinin bir kısmını sergiledi, ancak bunun ötesine geçiyor: Yapay zeka, MRI okumasına dayalı bir teşhisin belirlenmesine yardımcı olabilir veya test sonuçlarına dayalı takipler önerebilir. Ama ben doktorlardan vazgeçmeye hazır değilim.
HITL her iki dünyanın da en iyisini sunar: doktorların gözden kaçırmış olabileceği vakaları yakalarken, yine de son kararı vermelerine izin verir.
İnsan Destekli Yapay Zekayı Bugün Kullanın
Botpress , sorunsuz insan gözetimi ile konuşlandırılmış binlerce bota sahiptir ve piyasadaki en esnek yapay zeka aracı platformudur.
Botpress , HITL entegrasyonu, görsel sürükle ve bırak oluşturucu ve tüm popüler iletişim kanallarında ( Slack, Telegram, WhatsApp, web dahil) dağıtım ile birlikte gelir, bu nedenle AI kullanmak kişisel dokunuşunuzdan vazgeçmek anlamına gelmez.
Bugün inşa etmeye başlayın. Ücretsiz.
SSS
Yapay zeka sistemimin döngü içinde insan katılımına ihtiyacı olup olmadığını nasıl anlarım?
Yapay zeka sisteminiz yüksek riskli kararları ele alıyorsa, sık sık belirsiz veya nadir durumlarla karşılaşıyorsa, önyargılı veya zararlı çıktılar üretme riski taşıyorsa veya uyumluluk veya müşteri güveni için mutlak doğruluk ve insan yargısının gerekli olduğu alanlarda çalışıyorsa, muhtemelen döngüde insan katılımına ihtiyaç duyar.
Döngüde insan teknik olmayan iş süreçlerinde veya sadece yapay zeka modellerinde kullanılabilir mi?
Döngüde insan, müşteri şikayetlerinin incelenmesi veya içerik moderasyonu gibi teknik olmayan iş süreçlerinde kullanılabilir, çünkü makine kararlarının tek başına yetersiz kalabileceği herhangi bir otomatik iş akışına insan yargısının eklenmesi anlamına gelir.
Döngüde insan kullanmak yapay zeka sistemimin daha az gelişmiş olduğu anlamına mı geliyor?
Döngüde insan kullanmak, YZ sisteminizin daha az gelişmiş olduğu anlamına gelmez. Yapay zekanın hızını ve örüntü tanıma özelliğini, genellikle gerekli olan incelikli kararlar için insan muhakemesiyle birleştirerek güvenlik ve adalete öncelik verdiğinizi gösterir.
Döngü içinde insan yapay zekası küçük işletmeler için mi yoksa yalnızca büyük işletmeler için mi uygun maliyetli?
Döngü içinde insan yapay zekası, küçük işletmeler için giderek daha uygun maliyetli hale geliyor çünkü modern araçlar, insanları yalnızca zor vakalar için seçici olarak dahil etmenize olanak tanıyarak işgücü maliyetlerini en aza indirirken, büyük bir işgücüne ihtiyaç duymadan doğruluğu ve güveni artırmaya devam ediyor.
Bir yapay zeka sistemine döngü içinde insan süreçleri eklemenin maliyeti nedir?
Döngü içine insan süreçleri eklemek, kurum içi personeli ara sıra kullanıyorsanız minimum maliyetten, özel gözden geçiricilere veya uzman yüklenicilere ihtiyaç duyuyorsanız aylık yüzlerce veya binlerce dollars ulaşan önemli maliyetlere kadar her yere mal olabilir ve maliyetler büyük ölçüde insanların üstesinden gelmesi gereken görevlerin hacmine ve karmaşıklığına bağlıdır.