Схема RAG
- Користувач задає питання
- Система векторним пошуком знаходить релевантні документи
- Документи додаються до промпта як контекст
- LLM генерує відповідь на основі контексту
Переваги
- Актуальні дані без перенавчання моделі
- Контроль джерел — відповіді базуються на конкретних документах
- Зменшення галюцинацій для фактичних питань
Коли потрібен
Q&A по корпоративній документації, пошук у великій базі знань, chatbot що відповідає на питання по продукту.