AACSearch
ГлоссарийМетрики и аналитика

Метрики и аналитика

Precision, recall, zero-result rate, CTR и как измерять качество поиска.

Метрики и аналитика

Поиск нельзя улучшать «на глаз». Чтобы понять, помогает ли изменение, нужно измерять: сколько запросов ничего не нашли, кликают ли пользователи по результатам, доходит ли дело до покупки. Этот раздел — про метрики качества поиска и про то, как их читать.

Метрики качества

  • Точность (precision) — доля выданных результатов, которые релевантны. Высокая точность = мало мусора в выдаче.
  • Полнота (recall) — доля всех релевантных документов, которую вернул поиск. Высокая полнота = не пропускаем нужное.
  • F1 — среднее гармоническое точности и полноты; один общий показатель.
  • MRR (mean reciprocal rank) — метрика качества ранжирования: насколько высоко стоит первый релевантный результат.
  • nDCG (normalized DCG) — метрика качества ранжирования с градациями релевантности.
  • Recall@k — попал ли верный результат в топ-k.

Метрики магазина

  • Доля нулевых выдач (zero-result rate) — доля запросов, вернувших пустую выдачу. Ключевая метрика здоровья каталога: её рост — сигнал, что нужны синонимы или исправление опечаток.
  • CTR (click-through rate) — доля поисков с хотя бы одним кликом.
  • Доля добавлений в корзину (add-to-cart rate) — доля поисков, ведущих к добавлению в корзину.
  • Конверсия (conversion rate) — доля поисков, ведущих к покупке.
  • Выручка на поиск (revenue per search) — выручка, делённая на число поисков. Связывает поиск с деньгами.
  • Воронка (funnel) — цепочка поиск → клик → корзина → покупка. Показывает, где теряются пользователи.
  • Атрибуция (attribution) — приписывание выручки/действий источнику (например, конкретному запросу).

Измерение и эксперименты

  • Сессия (session) — непрерывное взаимодействие одного пользователя.
  • Журнал запросов (query log) — сохранённые запросы и их исходы; источник всех метрик.
  • Поисковая аналитика (search analytics) — метрики из журнала запросов.
  • Базовое значение (baseline) — исходная метрика до эксперимента.
  • Прирост (uplift) — измеренное улучшение над базовым значением.
  • A/B-эксперимент (A/B experiment)* — разделение живого трафика между двумя поисковыми профилями, чтобы измерить, какая конфигурация лучше.
  • Контрольная группа (control arm) — неизменённая группа в эксперименте.
  • Тестовая группа (treatment arm) — изменённая группа в эксперименте.
  • Закрепление посетителя (sticky assignment) — удержание посетителя в одной группе между сессиями.
  • Статистическая значимость (statistical significance) — насколько различие вряд ли является шумом.
  • Эталонный набор (golden set) — набор запросов с ожидаемыми хорошими результатами, по которому проверяют качество до и после изменений.
  • Оценочный набор (evaluation set) — запросы для оценки изменения ранжирования.
  • Модель кликов (click model) — модель релевантности, обученная на кликах.

Метрики продукта и эксплуатации

  • Вовлечённость (engagement) — как пользователи взаимодействуют с результатами.
  • Отказ (bounce) — уход посетителя после одной страницы/действия.
  • Возврат (retention) — возвращаются ли пользователи со временем.
  • Когорта (cohort) — группа пользователей с общим стартовым событием.
  • AOV (average order value) — средняя выручка на заказ.
  • LTV (lifetime value) — суммарная ценность клиента за всё время.
  • Отток (churn) — клиенты, переставшие пользоваться продуктом.
  • NPS (net promoter score) — метрика удовлетворённости и готовности рекомендовать.
  • CSAT — оценка удовлетворённости клиента.
  • Задержка (latency) — время выполнения запроса; медленный поиск отпугивает.
  • p50 / p95 / p99 latency — процентили задержки: p95 показывает «худший типичный» случай.
  • Пропускная способность (throughput) — запросов в секунду.
  • Доля ошибок (error rate) — доля неудачных запросов.

On this page