Задержка (latency)
Что такое задержка поиска и почему скорость напрямую влияет на продажи.
Задержка (latency)
Задержка — время, за которое поиск отвечает на запрос. Для мгновенного поиска это десятки миллисекунд, для сложных запросов — сотни.
Почему скорость критична
Пользователи нетерпеливы: задержка в сотни миллисекунд ощущается, а в секунды — раздражает. Медленный поиск напрямую снижает CTR и конверсию, даже если результаты идеальные. Скорость — часть качества.
Как измерять
Смотрят не на среднее (оно скрывает выбросы), а на процентили: p50 — типичный случай, p95 — «худший нормальный», p99 — почти худший. Если p95 вырос, часть пользователей уже чувствует торможение.
В AACSearch скорость закладывается архитектурой: индекс отвечает быстро, а тяжёлые операции (векторный поиск, реранкинг) добавляют время, которое стоит контролировать.