Sözlük
RAG nedir? (Retrieval-Augmented Generation)
Bir dil modelinin yanıt üretmeden önce, kurumun belge ve veri kaynaklarından ilgili parçaları getirip bunları bağlam olarak kullandığı yöntem.
RAG, modeli yeniden eğitmeden kuruma özgü ve güncel bilgiyle çalıştırmanın yaygın yoludur. Kullanıcının sorusuna göre ilgili belge parçaları bir arama katmanından getirilir ve istemle birlikte LLM’e verilir; model yanıtını bu içeriğe dayandırır.
Yöntem, kaynak gösterebilme ve bilgiyi güncel tutma avantajı sağlar. Kalite, belgelerin düzeni, parçalama yöntemi ve arama başarısına bağlıdır. Erişim yetkileri de yansıtılmalıdır; aksi halde kullanıcı göremeyeceği belgenin içeriğini yanıt olarak alabilir.
Güvenlik açısından dışarıdan gelen içerik, prompt injection riskini artırabilir. Modelin davranışını değiştirmek isteyen ekipler ince ayarı düşünür; bilgi eklemek için çoğunlukla RAG daha uygundur. Kuruma özel çalışan modellerde çıkarım altyapısı ile birlikte planlanır.