Sözlük · Kavramlar

RAG (retrieval-augmented generation)

Diğer adları: erişimle zenginleştirilmiş üretim, grounding, temellendirme

Kısa tanım

RAG (retrieval-augmented generation), bir dil modelinin önce web sayfaları gibi ilgili belgeleri bulup getirdiği, ardından yanıtını bu belgelere dayanarak yazdığı tekniktir. Grounding (temellendirme) ise yanıtı bu tür kaynaklara dayandırma fikridir.

Ne anlama gelir?

Terim, 2020'de yayımlanan ve önceden eğitilmiş bir dil modelini (parametrik bellek) aranabilir bir belge diziniyle (parametrik olmayan bellek) birleştiren bir araştırma makalesinden gelir. Yanıt motorlarının çoğu arama yaptığında bu şekilde çalışır: sayfaları bulur, seçtiği bölümleri modele aktarır ve bu sayfaları kaynak gösterebilen bir yanıt üretir.

Google aynı yaklaşım için Gemini uygulamalarında ve Vertex AI'daki Grounding with Google Search özelliğinde 'grounding' terimini kullanıyor. Bilgi getirme yanıtları daha güncel ve doğrulanabilir kılar; ancak ne söyleneceğine ve hangi kaynakların gösterileceğine yine model karar verir.

Neden önemli?

RAG, yapay zekâ görünürlüğünün eğitim anında donup kalmamasının nedenidir. Motor yanıt anında bilgi getiriyorsa bugün bulabildiği sayfalar, yani dokümantasyonunuz ve üçüncü taraf yorumlar, yarınki yanıtı değiştirebilir. Tarayıcı erişiminin önemli olmasının nedeni de budur.

Örnek

Bir alıcı, bir proje yönetimi aracının ücretsiz planında Gantt şeması olup olmadığını soruyor. Asistan tedarikçinin fiyat sayfasını ve geçen yıldan kalma bir incelemeyi buluyor; yanıt da eski incelemedeki bilgiyi tekrarlıyor. Fiyat sayfasını güncellemek ancak motor bu sayfayı bulur ve incelemeden daha ağır tartarsa işe yarar.

Sık yapılan yanlışlar

  • RAG doğruluğu garanti etmez; model getirilen bir sayfayı yanlış okuyabilir veya aşırı genelleyebilir.
  • Her yanıt bilgi getirmez. Getirme yoksa yanıt, modelin eğitimde öğrendiklerine dayanır.
  • Bir sayfanın getirilmesi, kaynak gösterilmesi ya da önerilmesiyle aynı şey değildir.