RAG Nedir? Şirket Verisiyle Çalışan Yapay Zeka

01RAG Nedir, Neden Gerekli?

Büyük dil modelleri genel bilgide güçlüdür ama şirketinizin fiyat listesini, iç prosedürlerini ya da geçen ay güncellenen iade politikasını bilmez. Bu bilgiler eğitim verisinde yoktur ve olsa bile eskimiştir. RAG nedir sorusunun en kısa yanıtı şudur: modele, soruyu yanıtlamadan önce doğru belgeyi okutan bir arama katmanı.

Adındaki üç kelime süreci özetler. Retrieval (getirme) ilgili metin parçalarını bulmak, augmented (zenginleştirilmiş) bu parçaları soruya eklemek, generation (üretim) ise modelin yanıtı bu bağlamla yazmasıdır. Model bir sınavda açık kitap kullanan öğrenci gibi davranır.

Bu yaklaşım özellikle kurumsal yapay zeka projelerinde öne çıkar. Müşteri hizmetleri, satış destek, insan kaynakları el kitapları ve teknik dokümantasyon gibi alanlarda, modelin bilmediği ama sizin bildiğiniz bilgiyi güvenli biçimde kullanmasını sağlar.

02RAG Nasıl Çalışır?

Bir RAG sistemi iki ayrı akıştan oluşur: belgelerin önceden hazırlandığı indeksleme akışı ve her soruda çalışan sorgu akışı. İndeksleme bir kez (ve belgeler değiştikçe) yapılır; sorgu akışı ise her kullanıcı mesajında saniyeler içinde tamamlanır.

İndeksleme akışı

PDF, Word, web sayfası ya da veritabanı kayıtları metne çevrilir ve anlamlı parçalara (chunk) bölünür. Her parça bir gömme (embedding) modeliyle sayısal vektöre dönüştürülür ve bir vektör veritabanına kaydedilir. Vektörler metnin anlamını temsil eder; benzer anlamdaki cümleler birbirine yakın vektörler üretir.

Sorgu akışı

1. Kullanıcının sorusu aynı gömme modeliyle vektöre çevrilir.
2. Vektör veritabanında soruya en yakın parçalar aranır (genellikle ilk 3–10 sonuç).
3. Bulunan parçalar, soru ve talimatlarla birlikte dil modeline gönderilir.
4. Model yanıtı yalnız bu bağlama dayanarak yazar ve kaynağı belirtir.

03Vektör Veritabanı ve Embedding

Klasik arama kelime eşleşmesine bakar; “iade süresi” diye aratan biri “geri gönderme hakkı” yazan paragrafı kaçırabilir. Anlamsal arama ise vektörler arasındaki yakınlığı ölçtüğü için bu iki ifadeyi aynı konu olarak tanır. RAG'ın gücü büyük ölçüde bu adımdan gelir.

Vektörleri saklamak için özel vektör veritabanları kullanılabileceği gibi, PostgreSQL için pgvector gibi eklentilerle mevcut ilişkisel veritabanı da bu işi üstlenebilir. Hangisinin uygun olduğunu veri hacmi, güncelleme sıklığı ve ekibin bildiği teknoloji belirler. Veri modeli seçimini SQL ve NoSQL farkı yazımızda ayrıntılı anlattık.

Pratikte en iyi sonuç çoğu zaman hibrit arama ile alınır: anlamsal arama ile anahtar kelime aramasının sonuçları birleştirilir. Ürün kodu, sözleşme numarası gibi birebir eşleşmesi gereken ifadelerde kelime araması hâlâ daha isabetlidir.

import numpy as np

def kosinus(a, b):
    return np.dot(a, b) / (np.linalg.norm(a) * np.linalg.norm(b))

# parca_vektorleri: her belge parcasinin embedding vektoru
# soru_vektoru: kullanici sorusunun embedding vektoru
skorlar = [kosinus(soru_vektoru, v) for v in parca_vektorleri]
en_iyi = np.argsort(skorlar)[::-1][:5]
print(en_iyi)

04RAG mi, İnce Ayar (Fine-Tuning) mi?

Şirket verisini modele öğretmenin iki yolu sık karıştırılır. İnce ayar, modelin ağırlıklarını kendi örneklerinizle yeniden eğitmektir; üslup, biçim ve belirli görev kalıplarını öğretmekte iyidir. RAG ise bilgiyi modelin dışında tutar ve her soruda getirir.

Bilgi sık değişiyorsa, kaynak göstermek önemliyse ve erişim yetkisi kullanıcıya göre farklılaşıyorsa RAG neredeyse her zaman daha doğru başlangıçtır. İki yöntem birlikte de kullanılabilir.

05Kullanım Alanları ve Örnekler

Doküman ile sohbet en bilinen örnektir: çalışanlar yüzlerce sayfalık prosedürü okumak yerine soru sorar, sistem ilgili maddeyi alıntılayarak yanıtlar. Aynı mantık müşteri tarafında da işler.

• Müşteri destek asistanı: kargo, iade, garanti koşulları gibi sorulara sitedeki güncel politikalarla yanıt verir.
• Otel ve turizm: oda özellikleri, tesis kuralları ve tur programları üzerinden misafir sorularını yanıtlar; rezervasyon verisi için otel yazılımı gibi sistemlerle birlikte düşünülür.
• E-ticaret: ürün açıklamaları ve teknik föyler üzerinden karşılaştırma yapar; stok ve fiyat gibi canlı veri ise e-ticaret entegrasyonu ile doğrudan sistemden okunur.
• İç bilgi tabanı: insan kaynakları, muhasebe süreçleri ve teknik kurulum notları tek arayüzden aranır.
• Pazarlama ekibi: marka rehberi ve geçmiş kampanya raporlarına dayanarak taslak üretir; bu taslaklar dijital pazarlama sürecinde insan onayından geçer.

06Bir RAG Projesi Nasıl Kurulur?

Teknik bileşenler hazır olsa da başarılı bir projenin çoğu emeği veri tarafındadır. Aşağıdaki adımlar çoğu kurumsal projede geçerli bir yol haritası sunar.

1. Kapsamı daraltın: önce tek bir kullanım senaryosu seçin, örneğin yalnız müşteri destek soruları.
2. Kaynakları temizleyin: eski, çelişkili ve taslak belgeleri ayıklayın; yanlış belge doğru yanıt üretmez.
3. Parçalama stratejisini belirleyin: başlık ve paragraf sınırlarına göre bölün, parçalar arasında küçük örtüşme bırakın.
4. Erişim yetkilerini tasarlayın: her parçaya kimin görebileceği bilgisini meta veri olarak ekleyin.
5. Talimatı yazın: modelden yalnız verilen bağlamla yanıt vermesini, bilmiyorsa bunu söylemesini isteyin.
6. Test kümesi hazırlayın: gerçek kullanıcı sorularından 50–100 örnek ve beklenen yanıtlarla düzenli ölçüm yapın.
7. Güncelleme akışını kurun: belge değiştiğinde ilgili parçaların otomatik yeniden indekslenmesini sağlayın.

07Sık Yapılan Hatalar

RAG sistemleri ilk demoda etkileyici görünür; sorunlar gerçek kullanıcılarla ortaya çıkar. En yaygın hata kötü parçalamadır: bir tablo ikiye bölünür, başlık ile içerik ayrı parçalara düşer ve model yarım bilgiyle yanıt verir.

İkinci hata, getirme kalitesini ölçmeden yalnız son yanıta bakmaktır. Yanlış yanıtın kaynağı çoğu zaman model değil, yanlış parçanın getirilmesidir. Bu yüzden arama sonuçları ayrıca değerlendirilmelidir.

Üçüncüsü güvenliktir. Belgelerin içine gizlenmiş talimatlar modeli yönlendirmeye çalışabilir (prompt injection). Getirilen metin her zaman veri olarak ele alınmalı, sistem talimatlarının önüne geçmemelidir. Model başka sistemlere bağlanacaksa MCP nedir yazımızdaki yetki ilkeleri burada da geçerlidir.

Son olarak RAG, akışın tamamı değildir. Yanıt sonrası bir talep açmak, e-posta göndermek ya da kayıt güncellemek gerekiyorsa iş akışı otomasyonu araçlarıyla birleştirilmesi gerekir.

08RAG Projesine Başlamadan Önce

Kendinize üç soru sorun: Hangi soruların yanıtı bugün çalışanların zamanını en çok alıyor? Bu yanıtlar güncel ve tek bir yerde yazılı mı? Yanlış yanıtın maliyeti nedir? Bu soruların yanıtı, projenin kapsamını ve hangi noktada insan onayı gerektiğini belirler.

Kişisel veri içeren belgelerle çalışılacaksa veri işleme ve saklama koşulları baştan netleşmelidir. Kullanılan model servisinin veriyi nerede işlediği ve saklayıp saklamadığı sözleşmede kontrol edilmeli; hukuki değerlendirme için güncel mevzuatı ve danışmanınızı kontrol edin.

Aurora Yazılım olarak sektörel yazılım çözümleri geliştirirken verinin nerede durduğunu ve kimin erişebildiğini her projenin merkezine koyuyoruz. Projenizi konuşmak isterseniz iletişim sayfamızdan bize ulaşabilirsiniz.