ChatGPT nasıl çalışır?

1. Üretken

ChatGPT üretken bir yapay zeka modelidir - metin, kod, görüntü ve ses üretebilir. Üretken YZ'nin diğer örnekleri DALL-E gibi görüntü oluşturma araçları veya ses oluşturuculardır.

2. Önceden Eğitilmiş

ChatGPT 'un 'önceden eğitilmiş' yönü, internetteki her şeyi biliyor gibi görünmesinin nedenidir. GPT modeli, 'denetimsiz öğrenme' adı verilen bir süreçte geniş veri yığınları üzerinde eğitilmiştir.

ChatGPT adresinden önce, yapay zeka modelleri denetimli öğrenme ile oluşturulurdu - açıkça etiketlenmiş girdiler ve çıktılar verilir ve birini diğeriyle eşleştirmeleri öğretilirdi. Veri kümelerinin insanlar tarafından derlenmesi gerektiğinden bu süreç oldukça yavaştı.

İlk GPT modelleri, üzerinde eğitildikleri büyük veri kümelerine maruz kaldıklarında, çok çeşitli kaynaklardan gelen dil kalıplarını ve bağlamsal anlamı özümsediler. 

Bu nedenle ChatGPT bir genel bilgi sohbet robotudur - halka açılmadan önce zaten büyük bir veri kümesi üzerinde eğitilmiştir.

GPT motorunu daha fazla eğitmek isteyen kullanıcılar - benzersiz kuruluşunuz için rapor yazmak gibi belirli görevlerde uzmanlaşmak için - LLMs 'u özelleştirmek için teknikler kullanabilirler.  

3. Transformatör

Transformatörler, Vaswani ve arkadaşları tarafından 2017 yılında yayınlanan "Attention is All You Need" başlıklı makalede tanıtılan bir tür sinir ağı mimarisidir. Transformatörlerden önce, metin dizilerini işlemek için tekrarlayan sinir ağları (RNN'ler) ve uzun kısa süreli bellek (LSTM) ağları gibi modeller yaygın olarak kullanılıyordu. 

RNN'ler ve LSTM ağları metin girdisini bir insanın yaptığı gibi sırayla okur. Ancak transformatör mimarisi, bir cümledeki her kelimeyi aynı anda işleyip değerlendirebilir ve bu da bazı kelimeleri cümlenin ortasında veya sonunda olsalar bile daha alakalı olarak puanlamasına olanak tanır. Bu, kendi kendine dikkat mekanizması olarak bilinir. 

Cümleyi ele alalım: "Fare kafese sığamadı çünkü kafes çok büyüktü."

Bir transformatör 'fare' kelimesini 'kafes' kelimesinden daha önemli olarak değerlendirebilir ve cümledeki 'o' kelimesinin fareye atıfta bulunduğunu doğru bir şekilde tespit edebilir. 

Ancak RNN gibi bir model, en son işlenen isim olduğu için 'it' kelimesini kafes olarak yorumlayabilir.

'Dönüştürücü' özelliği, ChatGPT 'un bağlamı daha iyi anlamasını ve öncekilere göre daha akıllı yanıtlar üretmesini sağlar. 

Doğal dil işleme nedir?

Doğal dil işleme (NLP), doğal dil aracılığıyla bilgisayarlar ve insanlar arasındaki etkileşime odaklanan bir yapay zeka dalıdır. 

Makinelerin insan dilini hem anlamlı hem de kullanışlı bir şekilde anlamasını, yorumlamasını ve üretmesini sağlar.

NLP vs NLU vs NLG

NLP, doğal dil anlama (NLU) ve doğal dil üretimi (NLG) dahil olmak üzere çeşitli alt disiplinleri kapsayan geniş bir alandır. 

NLP kapsayıcı bir alandır, NLU ve NLG ise bu alan içindeki özelleşmiş alanlardır. Bunun nedeni, doğal dil işlemenin hem anlama hem de ileri geri konuşma sırasında üretmeyi içermesi gerektiğidir.

NLP nasıl çalışır?

NLU, anlamını ve niyetini yorumlamak için insan dilini parçalara ayırır. İşte adım adım nasıl çalıştığı:

1. Metin, gereksiz unsurları (noktalama işaretleri ve durak kelimeleri gibi) kaldırmak için önceden işlenir.
2. Sistem, metindeki varlıklar, anahtar kelimeler ve kelime öbekleri gibi temel bileşenleri tanımlar.
3. Kelimeler ve kavramlar arasındaki ilişkileri anlamak için cümle yapısını analiz eder.
4. NLU modeli, tanınan unsurları belirli amaçlar veya hedeflerle eşleştirir.
5. NLU motoru, bağlam ve kullanıcı etkileşim geçmişine dayalı olarak anlayışını geliştirir.

Sistem, uygun eylemleri veya yanıtları tetikleyebilecek yapılandırılmış bir çıktı sağlar.

Ön eğitim

İlk olarak, yapay zeka modeli kitaplardan, web sitelerinden ve diğer dosyalardan gelen çok miktarda metin verisine maruz kalır. 

Ön eğitim sırasında model, cümledeki bir sonraki kelimeyi tahmin etmeyi öğrenir ve bu da dildeki kalıpları anlamasına yardımcı olur. Esasen, tutarlı görünen metinler üretmesini sağlayan istatistiksel bir dil anlayışı oluşturur.

İnce ayar

Ön eğitimden sonra, model daha spesifik veri kümeleri üzerinde ince ayardan geçirilir. ChatGPT için bu, konuşmalar için düzenlenmiş veri kümelerini içerir. 

Bu adımın önemli bir parçası, insan eğitmenlerin modelin yanıtlarını derecelendirdiği İnsan Geri Bildiriminden Güçlendirme Öğrenimini (RLHF) içerir. Bu geri bildirim döngüsü ChatGPT 'un uygun, yararlı ve bağlamsal olarak doğru yanıtlar üretme yeteneğini geliştirmesine yardımcı olur.

Jetonlar

Modelin işlediği metin birimleri (kelimeler veya kelime parçaları). ChatGPT'nin girdi ve çıktıları verimli hesaplama için tokenize edilmiştir.

Sıfır atışlı öğrenme

Modelin, genel bilgisine dayanarak özel olarak eğitilmediği görevleri yerine getirme yeteneği. 

Tek seferlik öğrenme modele bir örnek verilmesini içerirken, n seferlik öğrenme modele öğrenmesi için çok sayıda örnek verilmesini içerir. 

Dikkat mekanizması

Yanıtları oluştururken girdi metninin farklı bölümlerine odaklanmasını sağlayan dönüştürücü modelinin bir bileşeni.

Halüsinasyon

Bir yapay zeka modeli yanlış veya anlamsız bilgiler ürettiğinde 'halüsinasyon' görür. Halüsinasyonlar, geri getirme destekli üretim (RAG) gibi stratejilerle azaltılabilir.

Düşünce zinciri muhakemesi

Modelin adım adım düşünmesine yardımcı olan ve karmaşık istemleri veya görevleri yerine getirme becerisini geliştiren bir yöntem. 

Bazı ChatGPT modelleri otomatik olarak bu stratejiyle donatılmıştır - en son OpenAI o1 modelleri gibi. Ancak herhangi bir sürümden düşünce zinciri muhakemesi yapmasını isteyebilirsiniz: sadece muhakemesini adım adım açıklamasını isteyin.

Ön eğitim

Modelin, belirli görevler için ince ayar yapılmadan önce dil kalıplarını öğrenmek için büyük bir veri kümesi üzerinde eğitildiği ilk aşama.

İnce ayar 

Belirli kullanım durumlarındaki performansını artırmak için modeli daha dar bir veri kümesi veya görev üzerinde iyileştirme süreci.

Bağlam penceresi

Modelin bir yanıt oluştururken dikkate alabileceği girdi metni miktarına ilişkin sınır. 

Düşük bağlam penceresi, uzun bir rapor gönderip özet isteyemeyeceğiniz anlamına gelir - model belgenin başını 'unutmuş' olacaktır. 

Özel GPTs

OpenAI kullanıcılarının GPTs 'u kendi beğenilerine göre özelleştirmelerine olanak tanır. Belirli bir masa oyununun kurallarını öğrenmenize, rock metal grubu posterleri tasarlamanıza veya yapay zeka kavramlarını öğretmenize yardımcı olması için özel bir GPT 'a talimat verebilirsiniz.

Özel yapay zeka ajanları

Yapay zeka teknolojisindeki ilerlemeyle, kendi LLM destekli yapay zeka aracılarınızı oluşturmak kolay (ve ücretsiz). 

Düşük kodlu sürükle ve bırak oluşturuculardan gelişmiş kodlama ekosistemlerine kadar, her kullanım durumu ve beceri seviyesi için harika yapay zeka oluşturma platformları vardır. 

Kendi LLM destekli temsilcinizi oluşturmak, toplantılarınızı planlayan ve haftalık metrik raporlarınızı oluşturan ısmarlama bir yapay zeka asistanı tasarlayabileceğiniz anlamına gelir. Ya da bir müşteri destek yapay zeka aracısı oluşturabilirsiniz. WhatsApp. Olasılık sıkıntısı yok.  

ChatGPT , Google Bard veya Claude gibi diğer yapay zekalı sohbet robotlarıyla nasıl karşılaştırılır?

ChatGPT, Google Bard ve Claude'un hepsi güçlü dil modelleri kullanır, ancak farklı veriler üzerinde eğitilir ve farklı hedefler için optimize edilirler. İhtiyaçlarınıza bağlı olarak her birinin güçlü yönleri vardır.

ChatGPT birden fazla dilde metni eşit derecede iyi anlayabilir ve oluşturabilir mi?

ChatGPT birden fazla dili destekliyor ve birçoğunda temel görevleri yerine getirebiliyor, ancak en güçlü ve en güvenilir performansı hala İngilizce'de. Diğer dillerde gelişiyor, ancak doğruluk değişebilir.

ChatGPT bir insan gibi "düşünüyor" veya "anlıyor" mu?

Pek değil, düşünmüyor ya da hissetmiyor; verilerdeki kalıpları tanıyor ve olasılıklara dayalı yanıtlar üretiyor. Kulağa insani gelebilir ama aslında bir sonraki en iyi kelimeyi tahmin ediyor.

ChatGPT önyargılı mı? LLMslerde önyargı nasıl ölçülür veya ele alınır?

Evet, ChatGPT eğitildiği verilerden kaynaklanan önyargıları yansıtabilir. OpenAI , zararlı veya adil olmayan önyargıları azaltmak için insan geri bildirimi, güvenlik ince ayarı ve sürekli değerlendirmeler gibi teknikler kullanır, ancak bu devam eden bir zorluktur.

ChatGPT yeni bilgilerle ne sıklıkla güncelleniyor?

ChatGPT gerçek zamanlı olarak öğrenmez, yalnızca OpenAI yeni bir model yayınladığında güncellenir. Örneğin, GPT 2023'ün sonlarına kadar olan veriler üzerinde eğitilmiştir ve güncellemeler sürekli değil, periyodik olarak gerçekleşir.