ГлоссарийДанные и интеграции
Данные и интеграции
Коннекторы, синхронизация, реиндексация, фиды и webhook.
Данные и интеграции
Поиск работает только с теми данными, которые в него загружены. Этот раздел объясняет, как документы попадают в AACSearch: откуда они берутся, как обновляются и что происходит, когда меняется структура данных.
Как данные попадают в индекс
- Загрузка (ingestion) — помещение документов в индекс.
- Коннектор (connector)* — сохранённый источник (sitemap, URL, JSON, CSV), забирающий документы по расписанию.
- Фид (feed) — машиночитаемый экспорт данных.
- Sitemap — XML-список URL для обхода.
- Краулер (crawler) — программа, забирающая страницы.
- Импорт (import) — загрузка данных в систему.
- Экспорт (export) — выгрузка данных из системы.
- Backfill — импорт исторических данных.
- ETL — извлечение, преобразование, загрузка; общий термин для процесса подготовки данных.
Синхронизация и обновление
- Полная синхронизация (full sync) — повторный импорт всего источника.
- Инкрементальная синхронизация (delta sync) — импорт только изменённого.
- Инкрементальное обновление (incremental update) — применение только изменений к индексу.
- Реиндексация (reindexing) — пересборка коллекции при изменении схемы (а не контента).
- Изменение схемы (schema change) — изменение структуры полей.
Маппинг и преобразование
- Маппинг данных (data mapping) — решение, какие исходные поля идут в какие поля индекса.
- Маппинг полей (field mapping) — одно исходное поле → одно поле индекса.
- Преобразование (transform) — изменение значения при загрузке (формат, тип).
- Валидация данных (data validation) — проверка данных перед загрузкой.
- Обогащение (enrichment) — добавление производных данных к записи.
Надёжность и события
- Webhook — HTTP-обратный вызов о событии (например, «импорт завершён»).
- Пакет (batch) — обработка многих записей разом.
- Лимит запросов (rate limit) — ограничение запросов за период.
- Идемпотентность (idempotency) — операция, безопасная для повтора.
- Ключ идемпотентности (idempotency key) — ключ, предотвращающий повторные побочные эффекты.
- Повтор (retry) — повтор неудачного запроса.
- Backoff — увеличение паузы между повторами.
- Очередь (queue) — очередь ожидающих задач.
- Задача (job) — запланированная или асинхронная единица работы.
- Расписание (schedule) — интервал запуска коннектора.
- Лог (log) — записанное событие или сообщение.
Понимание разницы между полной и инкрементальной синхронизацией экономит ресурсы: для больших каталогов дельта-обновления быстрее и дешевле повторного импорта.