ГлоссарийAI и RAG
RAG (retrieval-augmented generation)
Что такое RAG и почему он делает AI-ответы точными.
RAG (retrieval-augmented generation)
RAG — техника, при которой языковая модель отвечает не из памяти, а по найденным фрагментам вашего контента. Сначала поиск достаёт релевантные отрывки, затем модель пишет ответ, опираясь только на них.
Зачем это нужно
У модели нет свежих данных о вашем каталоге, ценах и наличии. Если спросить её напрямую, она начнёт выдумывать. RAG «приземляет» ответ: модель пересказывает найденное из ваших документов и указывает источники.
Как устроен
Процесс из двух шагов: retrieval — нахождение релевантных фрагментов, и generation — написание ответа по ним. Качество RAG зависит от качества поиска: если retrieval нашёл не то, ответ будет неверным даже при хорошей модели.