Схема RAG
- Пользователь задаёт вопрос
- Система векторным поиском находит релевантные документы
- Документы добавляются в промпт как контекст
- LLM генерирует ответ на основе контекста
Преимущества
- Актуальные данные без переобучения модели
- Контроль источников — ответы основаны на конкретных документах
- Снижение галлюцинаций для фактических вопросов
Когда нужен
Q&A по корпоративной документации, поиск в большой базе знаний, чатбот, отвечающий на вопросы по продукту.