İçeriğe geç

Yapay zekâ / RAG

RAG tabanlı kurumsal asistan

Şirketinizin kendi belgelerine, içtihatlarına ve ürün kataloğuna bakarak cevap veren özel asistan. Her cevabın hangi kaynaktan geldiğini gösterir.

RAG kurumsal asistan

RAG nedir, neden ChatGPT yetmiyor?

RAG (Retrieval-Augmented Generation), bir yapay zekâ modelinin sizin belgelerinize, arşivinize ve mevzuatınıza bakarak cevap vermesini sağlayan bir yöntem. ChatGPT genel amaçlı bir araç ve şirketiniz hakkında bir şey bilmez. RAG ile model, her cevaptan önce ilgili belgeleri okur ve cevabının kaynağını gösterir.

Böylece uydurma cevap riski büyük ölçüde azalır. Model, her cümlenin hangi belgenin hangi sayfasından geldiğini söyleyebilir. Hukuk, sağlık, mühendislik ve şirket içi bilgi yönetimi gibi alanlarda bu çok önemli.

Kimler için özellikle faydalı?

  • Hukuk büroları (içtihat, dilekçe, mevzuat arşivi)
  • Hastaneler ve klinikler (klinik protokoller, ilaç bilgileri)
  • Mühendislik firmaları (proje belgeleri, standartlar, yönetmelikler)
  • Sigorta şirketleri (poliçe ve teminat belgeleri)
  • Üretim firmaları (kalite el kitapları, sertifikalar, prosedürler)
  • Eğitim kurumları (öğrenci el kitabı, akademik kadro arşivi)
  • Belediyeler ve kamu kurumları (mevzuat, prosedürler)

Neyden oluşuyor?

  • Vektör veri tabanı: pgvector, Pinecone ya da Qdrant.
  • Belge işleme hattı: PDF, Word ve Excel dosyalarını okuma, parçalara ayırma ve vektöre çevirme (embedding).
  • Dil modeli (LLM): GPT-4, Claude ya da yerel modeller (Llama, Mistral).
  • Kaynak takibi: Her cevabın hangi belgeden geldiği kaydedilir.
  • Kullanıcı arayüzü: Web, mobil, Slack ve Teams.
  • Yetki ve kayıt: Kimin hangi belgeye erişebileceği belirlenir, her soru kayıt altına alınır.

Nasıl ilerliyoruz?

  1. Belgelerin listesini çıkarıp veri kalitesini kontrol ediyoruz.
  2. Seçilen bir belge grubuyla deneme kurulumu yapıyoruz (POC, genellikle 3-4 hafta).
  3. Ekibinizle test edip geri bildirim topluyoruz (yaklaşık 2 hafta).
  4. Tüm arşivi ekleyip yetkileri ayarlıyor ve sistemi kullanıma açıyoruz (yaklaşık 3-4 hafta).
  5. Her ay yanlış cevapları düzelterek sistemi iyileştiriyoruz.

Fiyat nasıl belirleniyor?

Fiyat, işin kapsamına göre değişir. Kısa bir görüşmeden sonra net bir teklif veriyoruz. İşe küçük bir deneme kurulumuyla (POC) başlamak mümkün. Fiyatı en çok belge arşivinin büyüklüğü, kaç kişinin kullanacağı ve sistemin bulutta mı yoksa tamamen kendi sunucunuzda mı (on-prem) çalışacağı belirliyor. Bulut model kullanılıyorsa aylık API ücreti ayrı bir kalemdir.

Veri güvenliği

Hassas veri içeren projelerde her şeyi kendi sunucunuza kuruyoruz: model, vektör veri tabanı ve belge arşivi sizde kalıyor. Veri şirketinizin dışına çıkmıyor. Hukuk, sağlık ve kamu projelerinde özellikle bu seçeneği tercih ediyoruz.

Başlayalım

Ne istediğinizi anlatın, net teklif verelim.

Kısa bir görüşmede ihtiyacınızı konuşuyoruz. Sonra kapsamı, fiyatı ve süreyi açıkça yazan bir teklif hazırlıyoruz.