GPT-4o Sohbet Botları İçin Ne Anlama Geliyor?

İki kat hız ve yarı fiyat – GPT-4o, yapay zeka sohbet botları için ne anlama geliyor?

Gizemli duyurularının ardından OpenAI, amiral gemisi modellerinin en son sürümünü piyasaya sürdü: GPT-4o.

Yeni model sadece çok modlu yeteneklerinde dikkat çekici bir güncelleme almadı. GPT-4 Turbo'dan daha hızlı ve daha ucuz. Ana akım medya, yeni amiral gemisinin ChatGPT için sunduğu video ve ses özelliklerine odaklanırken, maliyet ve hızdaki bu değişim, uygulamalarında GPT kullananlar için de en az o kadar önemli.

Botpress'te yazılım mühendisi lideri olan Patrick Hamelin, "4o'nun kullanılabilirliği, hem geliştirici hem de kullanıcı deneyimini önemli ölçüde iyileştirme gücüne sahip," dedi. "Etkisi düşündüğümüzden daha geniş."

Şimdi, yeni modelin yapay zeka sohbet botlarını nasıl etkileyeceğine daha yakından bakalım.

Model Yetenekleri

Yeni amiral gemisi model, heyecan verici bir güncelleme ve yeni özellik listesiyle geliyor: geliştirilmiş ses ve video yetenekleri, gerçek zamanlı çeviri, daha doğal dil becerileri. Görselleri analiz edebiliyor, daha geniş bir ses girişini anlayabiliyor, özetleme yardımı sunabiliyor, gerçek zamanlı çeviri yapabiliyor ve grafikler oluşturabiliyor. Kullanıcılar dosya yükleyip sesli görüşme gerçekleştirebiliyor. Hatta masaüstü uygulaması da mevcut.

OpenAI'nin lansman videolarında, çalışanlar (ve Khan Academy'den Sal Khan gibi iş ortakları), GPT'nin en son sürümünün bir kullanıcıyı iş görüşmesine hazırladığını, şarkı söylediğini, yüz ifadelerinden insan duygularını tanıdığını, yazılı matematik sorularını çözdüğünü ve başka bir ChatGPT-4o ile etkileşime geçtiğini gösteriyor.

Lansman, bir yapay zeka modelinin çocuğunuzun defterindeki yazıyı analiz edip yanıt verebildiği yeni bir gerçekliği gözler önüne serdi. İlk kez kesir toplama kavramını açıklayabilir, çocuğunuzun anlayışına göre tonunu ve yaklaşımını değiştirebilir – sohbet botundan kişisel eğitmene dönüşebilir.

GPT-4o, LLM Sohbet Botları İçin Ne Anlama Geliyor?

LLM tabanlı yapay zeka sohbet botları, OpenAI gibi şirketler modellerini güncellediğinde otomatik olarak bir güncelleme alır. Bir LLM ajanı Botpress gibi bir bot oluşturma platformuna bağlıysa, en yeni GPT modelinin tüm avantajlarını kendi sohbet botlarında kullanabilirler.

GPT-4o'nun piyasaya sürülmesiyle, yapay zeka sohbet botları artık gelişmiş modelde çalışmayı seçebilir; bu da yeteneklerini, maliyetini ve hızını değiştirir. Yeni model, GPT-4 Turbo'ya göre 5 kat daha yüksek oran sınırına sahip ve dakikada 10 milyon tokene kadar işleyebiliyor.

Botpress'te Twilio gibi ses entegrasyonları kullanan botlar için, sesle çalışan etkileşimlerin yeni bir dünyası açıldı. Artık eski ses işleme yöntemleriyle sınırlı kalmadan, sohbet botları insan etkileşimini taklit etmeye bir adım daha yaklaştı.

Belki de en önemlisi, ücretli kullanıcılar için daha düşük maliyet. Benzer yetenekte bir sohbet botunu yarı fiyatına çalıştırmak, dünya genelinde erişimi ve uygunluğu ciddi şekilde artırabilir. Ve Botpress kullanıcıları, botlarında ek bir yapay zeka maliyeti ödemez – bu tasarruflar doğrudan geliştiricilere yansır.

Kullanıcı tarafında ise, GPT-4o çok daha iyi bir kullanıcı deneyimi demek. Kimse beklemeyi sevmez. Daha kısa yanıt süreleri, yapay zeka sohbet botu kullanıcıları için daha yüksek memnuniyet anlamına gelir.

Kullanıcılar Hızı Seviyor

Sohbet botlarının benimsenmesinde temel unsur, kullanıcı deneyimini iyileştirmektir. Peki, kullanıcı deneyimini bekleme sürelerini azaltmaktan daha iyi ne iyileştirebilir?

Hamelin, "Kesinlikle daha iyi bir deneyim olacak," dedi. "En son isteyeceğiniz şey birini beklemek."

İnsanlar beklemekten nefret eder. Daha 2003 yılında bile, bir araştırma insanların bir web sayfasının yüklenmesi için yaklaşık 2 saniye beklemeye razı olduğunu gösterdi. O zamandan beri sabrımız kesinlikle artmadı.

Ve herkes beklemekten nefret eder

Algılanan bekleme süresini azaltmak için birçok kullanıcı deneyimi ipucu mevcut. Çoğu zaman olayların hızını artırmak mümkün olmadığından, kullanıcıların zamanı daha hızlı geçtiğini hissetmesini sağlamaya odaklanırız. Yükleme çubuğu gibi görsel geri bildirimler, algılanan bekleme süresini kısaltmak için kullanılır.

Asansör bekleme süreleriyle ilgili ünlü bir hikayede, eski bir New York binası şikayet yağmuruna tutuluyordu. Sakinler, asansörün gelmesi için 1-2 dakika beklemek zorundaydı. Bina, asansörü yenileyemiyordu ve sakinler sözleşmelerini feshetmekle tehdit ediyordu.

Psikoloji eğitimi almış yeni bir çalışan, asıl sorunun iki dakikalık kayıp zaman değil, sıkıntı olduğunu fark etti. Sakinlerin beklerken kendilerine veya başkalarına bakabilmesi için aynalar takılmasını önerdi. Asansörle ilgili şikayetler sona erdi ve artık asansör lobilerinde ayna görmek sıradan bir şey.

Kullanıcı deneyimini geliştirmek için görsel geri bildirim gibi kısa yollar yerine, OpenAI deneyimi kaynağında iyileştirdi. Hız, kullanıcı deneyiminin merkezinde yer alır ve verimli bir etkileşimin sağladığı memnuniyete hiçbir hile yaklaşamaz.

Herkese Tasarruf

Bu yeni yapay zeka modeliyle uygulama çalıştırmak aniden çok daha ucuz hale geldi.

Büyük ölçekte bir yapay zeka sohbet botu çalıştırmak pahalı olabilir. Botunuzun kullandığı LLM, büyük ölçekte her kullanıcı etkileşimi için ne kadar ödeyeceğinizi belirler (en azından Botpress'te, burada yapay zeka harcaması LLM maliyetiyle bire bir eşleşir).

Ve bu tasarruflar sadece API kullanan geliştiriciler için değil. ChatGPT-4o, GPT-3.5 ile birlikte LLM'nin en yeni ücretsiz sürümüdür. Ücretsiz kullanıcılar, ChatGPT uygulamasını hiçbir ücret ödemeden kullanabilir.

Daha iyi tokenleştirme

Modelle Latin alfabesi kullanmayan bir dilde etkileşim kuruyorsanız, GPT-4o API maliyetlerinizi daha da azaltır.

Yeni model, geliştirilmiş kullanım sınırlarıyla geliyor. Tokenleştirme verimliliğinde önemli bir sıçrama sağlıyor, özellikle de bazı İngilizce dışı dillerde.

Yeni tokenleştirme modeli, giriş metnini işlemek için daha az token gerektiriyor. Semboller ve karakterler kullanan logografik diller için çok daha verimli.

Bu avantajlar, büyük ölçüde Latin alfabesi kullanmayan dillere odaklanıyor. Tasarruflardaki azalmalar şu şekilde tahmin ediliyor:

• Hintçe, Tamilce veya Gujarati gibi Hint dillerinde token sayısında 2,9 – 4,4 kat azalma
• Arapçada token sayısında yaklaşık 2 kat azalma
• Çince, Japonca ve Vietnamca gibi Doğu Asya dillerinde token sayısında 1,4 – 1,7 kat azalma

Yapay Zeka Dijital Uçurumunu Kapatmak

Dijital çağ, uzun süredir belgelenen servet uçurumunun dijital bir versiyonunu da beraberinde getirdi – dijital uçurum. Nasıl ki servet ve güçlü altyapıya erişim belirli nüfuslarla sınırlıysa, yapay zekaya ve beraberindeki fırsat ve avantajlara erişim de öyle.

Birleşmiş Milletler Kalkınma Programı (UNDP) Dijital Direktörü Robert Opp, şöyle açıkladı: Yapay zeka platformlarının varlığı, bir ülkenin kalkınma göstergelerini tamamen değiştirme potansiyeline sahip:

GPT-4o'nun maliyetini yarıya indirerek ve ücretsiz bir katman sunarak, OpenAI yapay zekadaki en büyük sorunlardan birini nötralize etme yolunda önemli bir adım atıyor – ve politika yapıcılar ile ekonomistlerin gündemindeki eşitsizliğe doğrudan yanıt veriyor.

Büyük yapay zeka şirketleri için olumlu bir halkla ilişkiler hamlesi, meraklıların düşündüğünden daha gereklidir. Yapay zeka günlük hayatımızda giderek daha fazla yer almaya başladıkça, hem savunucular hem de şüpheciler, yapay zekayı 'iyi amaçlar' için nasıl kullanabileceğimizi sorguluyor.

Yapay zeka doktoru ve eğitmeni Louis Bouchard'a göre, yapay zekaya daha geniş erişim sağlamak tam da bunu başarmanın yolu: “Yapay zekayı erişilebilir kılmak, onu 'iyi amaçlar' için kullanmanın bir yolu, hatta belki de en iyisi.” Gerekçesi ise şu: Eğer yapay zekanın olumlu ve olumsuz etkilerini tam anlamıyla kontrol edemiyorsak – en azından ilk zamanlarında – en azından potansiyel faydalarına eşit erişim sağlayabiliriz.

Genişleyen Multimodal Potansiyel

Bir işletmenin sohbet botuyla etkileşime geçmenin en yaygın yolu metin olsa da, OpenAI'nin yeni yapay zeka modelinin geliştirilmiş multimodal yetenekleri bunun gelecekte değişebileceğini gösteriyor.

Önümüzdeki yıl, geliştiricilerin yeni erişilebilir ses, görsel ve video yeteneklerinden en iyi şekilde yararlanan uygulamaları hızla piyasaya sürdüğünü göreceğiz.

Örneğin, GPT destekli sohbet botları şunları yapabilir:

• Müşterilerden iade ettikleri ürünün fotoğrafını isteyerek ürünü tanımlayabilir ve hasarlı olup olmadığını kontrol edebilir
• Bölgeye özgü lehçeleri dikkate alarak gerçek zamanlı sesli çeviri sağlayabilir
• Tavada pişen bir etin fotoğrafından pişip pişmediğini söyleyebilir
• Ücretsiz bir kişisel tur rehberi gibi çalışarak, eski bir katedralin fotoğrafı üzerinden tarihi bilgi verebilir, gerçek zamanlı çeviri sunabilir ve karşılıklı iletişime olanak tanıyan kişiselleştirilmiş bir sesli tur sağlayabilir
• Sesli girdileri dinleyebilen, ağız hareketlerinizin videosuna göre telaffuz hakkında geri bildirim verebilen veya işaret dilini görseller ve videolarla öğretebilen bir dil öğrenme uygulamasını destekleyebilir
• Ses ve videoları yorumlama yeteneğini birleştirerek, düşük maliyetli konuşma terapisiyle acil olmayan ruh sağlığı desteği sunabilir

Görsel ve sesleri yorumlayabilen yapay zeka modelleriyle, LLM'lerin bize nasıl hizmet edebileceğine dair anlayışımız hızla genişliyor.

Multimodalite erişilebilirlik demektir

Gelişmiş multimodal özelliklerin toplumsal fayda için kullanıldığını zaten gördük. Bunun mükemmel bir örneği OpenAI'nin Be My Eyes ile ortaklığı.

Be My Eyes, görme engelli kullanıcıları görebilen gönüllülerle buluşturan Danimarkalı bir girişim. Bir kullanıcı yardıma ihtiyaç duyduğunda – örneğin markette doğru konserve ürününü seçmek veya bir tişörtün rengini belirlemek gibi – uygulama, akıllı telefon üzerinden video ile dünyanın herhangi bir yerindeki gönüllüyle bağlantı kuruyor.

OpenAI'nin yeni görsel yeteneği, Be My Eyes kullanıcıları için çok daha faydalı bir deneyim sunabiliyor. Artık görme engelli kullanıcılar, bir görüntü veya videoyu cihazlarına ileterek, modelin buna sesli bilgiyle yanıt vermesini sağlayabiliyor; gerçek zamanlı olarak bir insan gönüllünün görseli yorumlamasına gerek kalmıyor.

OpenAI ve Be My Eyes, artık güvenilir ortaklar olarak, dünya genelinde yasal olarak kör bireyler için daha fazla bağımsızlığın yolunu açıyor. Be My Eyes CEO'su Michael Buckley, etkisini şöyle açıklıyor:

Yeni hizmet, 2024 yazında ilk kez kullanıma sunulacak. Erken erişim kullanıcıları, yeni görsel, video ve ses özelliklerini test ediyor ve çok olumlu geri dönüşler alınıyor. Yapay zekanın etkileri şüpheciler için endişe yaratabilse de, bu ortaklık onun olumlu etkilerinin açık bir göstergesi. Gelişmiş yapay zekanın toplumsal faydasını anlamak, halkla ilişkiler için kritik bir adım.

Gelecekteki LLM modellerini nasıl değerlendireceğiz?

Rakipler en ucuz ve en hızlı LLM'yi üretmek için yarışırken, şu soru ortaya çıkıyor: Yarınların yapay zeka modellerini nasıl değerlendireceğiz?

Bir noktada, büyük LLM geliştiricileri (muhtemelen OpenAI ve Google) modellerinin ne kadar hızlı çalışabileceği ve erişimi ne kadar ucuza sunabileceği konusunda bir doygunluğa ulaşacak. Maliyet ve hızda istikrar sağlandığında, pazar lideri modeli nasıl belirleyeceğiz?

Yeni dönemin göstergesi ne olacak? Yapay zeka modelinizin sunabildiği kişilikler mi, video geliştirme yetenekleri mi, ücretsiz kullanıcılar için sunulan özellikler mi, yoksa şu anki anlayışımızın ötesindeki yepyeni ölçütler mi? Yeni nesil LLM'ler kapımızda.

Yapay Zeka Sohbet Botları Artık Çok Kolay

Ya sohbet botunuz her GPT güncellemesiyle otomatik olarak senkronize olsaydı?

Botpress, 2017'den beri geliştiricilere en yeni LLM'lerin gücüyle kolayca sohbet botları oluşturabilmeleri için gerekli araçları sunan özelleştirilebilir yapay zeka sohbet botu çözümleri sağlıyor. Botpress sohbet botları, kendi bilgi kaynaklarınızla – örneğin web siteniz veya ürün kataloğunuz – eğitilebilir ve iş sistemlerinizle sorunsuz entegre edilebilir.

Kod gerektirmeyen kurulumdan sonsuz özelleştirme ve genişletilebilirliğe kadar uzanan tek platform olan Botpress, sohbet botunuzda en yeni GPT sürümünün gücünü otomatik olarak kullanmanızı sağlar – hiçbir ek çaba gerekmez.

Bugün oluşturmaya başlayın. Ücretsizdir.

Sıkça Sorulan Sorular

1. Mevcut sohbet botumu Botpress'te GPT-4o'ya nasıl geçirebilirim?

Mevcut sohbet botunuzu Botpress'te GPT-4o'ya geçirmek için Botpress Studio'ya gidin, asistanınızın LLM ayarlarına girin ve mevcut model listesinden GPT-4o'yu seçin. Değişiklik anında uygulanır ve kod değişikliği gerekmez.

2. Botpress platformunda GPT-4o kullanmak için ön koşullar var mı (örneğin, SDK'lar, API sürümleri)?

Hayır, Botpress'te GPT-4o kullanmak için herhangi bir ön koşul yoktur. Platform, tüm SDK'ları, API güncellemelerini ve arka uç bağımlılıklarını otomatik olarak yönetir; sadece ayarlardan GPT-4o'yu seçmeniz yeterlidir.

3. GPT-4o, Botpress üzerinden belirli iş ihtiyaçlarına göre özelleştirilebilir veya ince ayar yapılabilir mi?

GPT-4o, Botpress içinde geleneksel anlamda ince ayar yapılamasa da, yanıtlarını ve davranışını prompt mühendisliği, iş akışı mantığı, bilgi tabanları ve değişkenler kullanarak özelleştirebilirsiniz. Bu sayede GPT-4o, modeli yeniden eğitmeye gerek kalmadan iş ihtiyaçlarınıza göre bağlamsal olarak davranabilir.

4. Botpress iş akışlarında çok modlu özelliklerin (ses, görüntü) kullanımında herhangi bir kısıtlama var mı?

Evet, Botpress şu anda Twilio veya Dialogflow Voice Gateway gibi entegrasyonlar aracılığıyla sesli özellikleri destekliyor, ancak görsel veya video işleme gibi multimodal yetenekler henüz tam olarak desteklenmiyor. Görsel tabanlı girişler hâlâ değerlendirme aşamasında veya bazı geçici çözümler gerektiriyor.

5. GPT-4o'nun gerçek zamanlı çeviri veya görüntü girişi gibi gelişmiş özelliklerini kullanırken gizli maliyetler var mı?

Hayır, Botpress'te GPT-4o'nun gelişmiş özelliklerini kullanmanın gizli bir maliyeti yoktur. GPT-4o'nun hız ve verimlilik avantajları mevcut Botpress planınıza dahildir ve LLM maliyetleri Botpress tarafından karşılanır – yani kullanıcılar, GPT-4o'nun geliştirilmiş özelliklerini kullanırken ek ücret ödemez.