RAG Asistanı Nedir? Kurumsal Yapay Zekâ İçin Pratik Rehber

Bir şirket yöneticisi ChatGPT'ye "geçen yılki tedarikçi sözleşmemizde fesih maddesi neydi?" diye soramaz, çünkü ChatGPT sizin sözleşmenizi görmez. İşte RAG (Retrieval-Augmented Generation) tam bu boşluğu doldurur: yapay zekâ modelini sizin kendi belgelerinizle, arşivinizle, mevzuatınızla konuşur hale getirir. Bu yazıda RAG'ın ne olduğunu, kurumsal kullanımda neden öne çıktığını ve hangi durumlarda gerçekten işe yaradığını sade bir dille anlatıyoruz.

RAG'ı bir cümleyle anlatmak

RAG, modelin her soruya cevap vermeden önce ilgili belgeleri "okuyup" yanıtını o belgelere dayandırdığı bir yöntemdir. Yani model, sizin verdiğiniz kaynağa dayanarak konuşur. Sonuç: cevaplar şirketinize özeldir, günceldir ve en önemlisi, her cümlenin hangi belgeden geldiği gösterilebilir.

Neden sadece ChatGPT yeterli değil?

• ChatGPT genel internet bilgisiyle eğitilmiştir; sizin iç verinizi bilmez.
• Bilmediği bir şeyi sorduğunuzda "uydurabilir" (halüsinasyon); kurumsal kararlar için kabul edilemez.
• Eğitim verisi belirli bir tarihte donar; güncel sözleşmeniz veya dünkü fiyat listeniz orada yoktur.
• Veri gizliliği: hassas belgeleri genel bir sohbet aracına yapıştırmak risklidir.

RAG bu sorunların çoğuna cevap verir: yanıtlar sizin verinizden gelir, kaynak gösterilir, güncel belgeler hemen dahil edilir ve kurulum tercihine göre veri şirket dışına hiç çıkmaz. Uydurma cevap riski de büyük ölçüde azalır.

RAG nasıl çalışır? (teknik olmayan anlatım)

1. Belgeleriniz (PDF, Word, Excel, e-posta arşivi) sisteme alınır ve küçük parçalara bölünür.
2. Her parça, anlamını temsil eden sayısal bir "vektöre" dönüştürülüp özel bir veri tabanında saklanır.
3. Kullanıcı soru sorduğunda, sistem soruyla en alakalı parçaları bulur.
4. Bu parçalar, soruyla birlikte yapay zekâ modeline verilir.
5. Model yalnızca bu kaynaklara dayanarak, atıflı bir yanıt üretir.

Hangi sektörlerde gerçekten işe yarar?

RAG, belgenin çok ve doğruluğun önemli olduğu alanlarda işe yarar. Başlıcaları:

• Hukuk: içtihat, dilekçe ve sözleşme arşivinden kaynaklı yanıt; dilekçe taslağı hazırlama.
• Sağlık: klinik protokoller, ilaç bilgisi ve hasta dosyası özetleri.
• Üretim & kalite: kalite el kitapları, prosedürler, sertifika ve regülasyon sorgulama.
• Sigorta & finans: poliçe ve teminat dokümanlarında hızlı, doğru yanıt.
• İç destek: yeni çalışanların şirket prosedürlerini doğal dille sorgulaması.

Örnek bir senaryo

Varsayımsal bir örnek: 12 avukatlı bir hukuk bürosu, kendi dilekçe ve içtihat arşivi için bir RAG asistanı kuruyor. Avukat bir soru sorduğunda cevap, kaynak belge ve sayfa numarasıyla geliyor; benzer bir dilekçeyi bulmak için arşivde uzun uzun aramak gerekmiyor. Tüm veri büronun kendi sunucusunda kalıyor.

Verim almanın üç ön koşulu

1. Düzenli veri: belgeleriniz dijital ve erişilebilir olmalı (taranmış arşivler için OCR adımı ekleriz).
2. Net kullanım senaryosu: asistan her şeyi bilmeye çalışmasın, belirli bir işi iyi yapsın.
3. Ölçülebilir hedef: başarıyı 3 ay sonra nasıl ölçeceğimizi baştan tanımlarız.

Veri nereye gidiyor? Güvenlik modelleri

• Bulut (OpenAI / Anthropic): en hızlı ve uygun maliyet; kurumsal sözleşmeyle veriniz eğitimde kullanılmaz.
• Hibrit: hassas veri yerelde işlenir, model bulutta çalışır.
• Tamamen yerel (on-prem): model ve veri sizin sunucunuzda; veri firma dışına hiç çıkmaz. Hukuk, sağlık ve kamu için tercih ettiğimiz model.

Süre ve maliyet

Bir kavram kanıtı (POC) projesi genellikle 3-4 haftada kurulur ve sistemin sizin verinizle gerçekten çalışıp çalışmadığını gösterir. Fiyatı en çok belge arşivinin büyüklüğü, kullanıcı sayısı ve sistemin bulutta mı yoksa tamamen kendi sunucunuzda mı çalışacağı belirler. Kısa bir görüşmeden sonra net bir teklif veriyoruz.