ГлоссарийAI и RAG
LLM (large language model)
Что такое большая языковая модель и какую роль она играет в поиске.
LLM (large language model)
LLM — большая языковая модель: нейросеть, обученная на огромном корпусе текста, которая умеет понимать и генерировать человеческий язык. В поиске она пишет ответы, перефразирует запросы и понимает намерение.
Что умеет
LLM читает вопрос, «понимает» его и выдаёт связный ответ. В отличие от ключевого поиска, она работает с языком целиком: может ответить на вопрос, свести несколько фактов и сформулировать вывод.
Что не умеет
LLM не знает ваших данных и не гарантирует правды — отсюда галлюцинации. Поэтому в поиске её используют не в одиночку, а в связке с retrieval (RAG): модель пересказывает то, что нашёл поиск, а не сочиняет из памяти.