LLM Nedir? Büyük Dil Modelleri Nasıl Çalışır?

01LLM Nedir? Kısa Tanım

LLM nedir sorusunu en sade hâliyle şöyle yanıtlayabiliriz: milyarlarca cümleyi okuyarak dilin kalıplarını öğrenmiş, istatistiksel bir metin tamamlama motoru. Ona bir soru yazdığınızda, soruyu bir metnin başlangıcı gibi görür ve en uygun devamı kelime kelime üretir.

“Büyük” sıfatı iki şeyi anlatır: eğitimde kullanılan veri miktarını ve modelin içindeki ayarlanabilir sayıların, yani parametrelerin sayısını. Parametreler, modelin eğitim sırasında öğrendiği bilginin sayısal karşılığıdır.

Bu modeller bir veritabanı gibi bilgiyi satır satır saklamaz. Bilgiyi kalıplar hâlinde sıkıştırarak öğrenir. Bu yüzden çok akıcı yazabilir ama bazen kendinden emin biçimde yanlış bilgi de üretebilir.

02Token Nedir?

Dil modelleri metni harf ya da kelime olarak değil, token adı verilen parçalar hâlinde işler. Bir token bazen tam bir kelime, bazen bir ek, bazen de tek bir noktalama işaretidir. Türkçe gibi eklemeli dillerde tek bir kelime çoğu zaman birden fazla token'a bölünür.

Token kavramı pratikte üç yerde karşınıza çıkar. Model servisleri genellikle token başına ücretlendirme yapar; modelin bir seferde işleyebileceği metin miktarı token ile ölçülür; yanıt hızı da saniyede üretilen token sayısıyla ifade edilir.

• Uzun bir sözleşmeyi analiz ettirmek, kısa bir e-posta yazdırmaktan çok daha fazla token harcar.
• Aynı içerik Türkçede İngilizceye göre genellikle daha fazla token tutar; maliyet hesabında bunu dikkate alın.
• Tablo, kod ve özel karakterler de token sayısını artırır.

03Transformer Mimarisi Ne İşe Yarar?

Bugünkü dil modellerinin neredeyse tamamı transformer adlı sinir ağı mimarisine dayanır. Bu mimarinin kalbinde dikkat mekanizması (attention) vardır: model bir kelimeyi işlerken cümledeki diğer tüm kelimelere bakar ve hangilerinin anlam için daha önemli olduğunu hesaplar.

Örneğin “Banka kenarında oturdu, sonra bankaya gidip hesap açtı” cümlesinde iki “banka” kelimesinin farklı anlamları, çevresindeki kelimelere bakılarak ayırt edilir. Eski mimariler metni sırayla okurken bu ilişkileri uzun cümlelerde kaybederdi; transformer bu bağları paralel biçimde kurar.

Paralel çalışabilmesi, eğitimin ekran kartları (GPU) üzerinde büyük ölçekte yapılmasını mümkün kıldı. Dil modellerindeki hızlı sıçramanın arkasında bu mimari ile artan hesaplama gücünün birleşimi yatıyor.

04Eğitim Nasıl Yapılır?

Bir LLM genellikle birkaç aşamada eğitilir. Her aşama modelin farklı bir yönünü şekillendirir ve son kullanıcının gördüğü asistan bu aşamaların toplamıdır.

Ön eğitim

Model; kitaplar, web sayfaları, kod depoları gibi geniş metin kaynaklarında bir sonraki token'ı tahmin etmeyi öğrenir. Dil bilgisi, genel kültür ve akıl yürütme kalıpları bu aşamada edinilir. Eğitim verisinin bir kesim tarihi vardır; model bu tarihten sonraki olayları kendiliğinden bilmez.

İnce ayar ve geri bildirim

Ön eğitimden çıkan model iyi bir metin tamamlayıcıdır ama yardımsever bir asistan değildir. Soru-cevap örnekleriyle yapılan ince ayar ve insan geri bildirimiyle pekiştirmeli öğrenme gibi yöntemler, modelin talimatlara uymasını, güvenli ve faydalı yanıt vermesini sağlar.

Yanıt üretimi ve sıcaklık

Eğitim bittikten sonra modelin kullanılmasına çıkarım (inference) denir. Model her adımda olası token'lar için bir olasılık listesi hesaplar ve bunlardan birini seçer. Sıcaklık (temperature) ayarı bu seçimin ne kadar serbest olacağını belirler: düşük değer daha tutarlı ve tekrarlanabilir, yüksek değer daha yaratıcı ama daha öngörülemez yanıtlar üretir.

Aynı soruya her seferinde biraz farklı yanıt almanızın nedeni budur. Rapor, sınıflandırma ve veri ayıklama gibi işlerde düşük sıcaklık; slogan ve fikir üretiminde daha yüksek sıcaklık tercih edilir.

05Bağlam Penceresi ve Hafıza

Bağlam penceresi, modelin tek bir istekte aynı anda görebildiği toplam token miktarıdır: sizin mesajınız, önceki konuşma, eklediğiniz belgeler ve modelin kendi yanıtı bu pencereye sığmalıdır. Pencere dolduğunda en eski bilgiler dışarıda kalır.

Modelin kalıcı bir hafızası yoktur; her istekte konuşmanın tamamı yeniden gönderilir. Bazı uygulamaların sunduğu hafıza özellikleri, önemli bilgileri ayrıca saklayıp sonraki konuşmalara ekleyen yardımcı katmanlardır.

Şirket belgeleri gibi bağlam penceresine sığmayan büyük bilgi kümeleri için ilgili parçaları arayıp getiren yöntemler kullanılır. Bu yaklaşım, modeli yeniden eğitmeden güncel ve kuruma özel yanıt almanın en yaygın yoludur.

06LLM'ler Nerede Yanılır?

Dil modelinin amacı doğruyu bulmak değil, olası devamı üretmektir. Bilgisi olmayan bir konuda bile akıcı bir yanıt yazabilir; buna halüsinasyon denir. Uydurma kaynak, olmayan bir yasa maddesi ya da yanlış bir tarih bu türden hatalardır. Nedenlerini ve yakalama yöntemlerini yapay zeka halüsinasyonu yazımızda ayrıntılı ele aldık.

• Güncel bilgi: kesim tarihinden sonraki gelişmeleri, internete erişim verilmedikçe bilmez.
• Hesaplama: uzun aritmetik işlemlerde hata yapabilir; kesin sonuç için hesap aracı kullanılmalıdır.
• Kaynak gösterme: istendiğinde kaynak uydurabilir; her bağlantı ve alıntı kontrol edilmelidir.
• Yerel ayrıntı: küçük şehirler, yerel mevzuat ve niş sektörlerde bilgisi zayıf olabilir.

07İş Hayatında LLM Kullanımı

Doğru konumlandırıldığında LLM'ler ekiplerin zamanını ciddi biçimde boşaltır. Kural basittir: model taslak üretir, insan karar verir. Metin yazımı, özetleme, sınıflandırma ve veri ayıklama gibi işler en verimli kullanım alanlarıdır.

Pazarlama tarafında kampanya fikirleri, reklam metni varyasyonları ve içerik taslakları hızla çıkarılabilir; ancak marka sesi ve doğruluk kontrolü dijital pazarlama ekibinin işidir. Arama görünürlüğü için üretilen içeriğin SEO ve analiz süreciyle ölçülmesi gerekir.

Yazılım tarafında ise LLM'ler API üzerinden mevcut sistemlere bağlanabilir: gelen müşteri mesajlarını sınıflandırmak, ürün açıklamalarını standartlaştırmak ya da sipariş verisinden rapor özetlemek gibi. Bu tür bağlantılar e-ticaret entegrasyonu ve sektörel yazılım çözümleri içinde planlanmalıdır.

Hangi modelin hangi işte öne çıktığını ChatGPT, Claude ve Gemini karşılaştırması yazımızda, daha iyi sonuç almak için talimat yazma tekniklerini ise prompt nasıl yazılır rehberimizde bulabilirsiniz.

08Model Seçerken Nelere Bakılır?

Tek bir “en iyi model” yoktur; işin türüne göre seçim yapılır. Değerlendirmede kalite kadar maliyet, hız ve veri politikası da belirleyicidir.