Короткий ответ
Резкий скачок или провал метрики, совпадающий по дате с релизом/изменением трекинга, нужно проверить сопоставлением с логом релизов (changelog) инженерных команд; если изменение подтвердилось, временной ряд нужно либо скорректировать (пересчитать старые данные по новой логике, если возможно), либо явно разделить анализ на "до" и "после" и не сравнивать периоды напрямую через точку разрыва.
Как это работает подробнее
разрыв во временном ряду обычно выглядит как резкий ступенчатый скачок (а не постепенный тренд) ровно в дату деплоя; его легко спутать с реальным продуктовым эффектом, если не проверить correlate с датами релизов.
Пример кода
tracking_break.sql
-- Проверка: сравнение количества событий "регистрация" до и после даты релиза с разбивкой по версии приложения
SELECT app_version, event_date, COUNT(*) AS registrations
FROM events
WHERE event_type = 'registration'
AND event_date BETWEEN DATE '2024-03-10' AND DATE '2024-03-20'
GROUP BY app_version, event_date
ORDER BY event_date;Что использовать на практике
- Практика. лучшая защита — вести общий лог значимых изменений трекинга и релизов, доступный аналитикам, и при любом аномальном скачке метрики первым делом сверяться с этим логом; если пересчитать исторические данные по новой логике невозможно, нужно явно аннотировать график и SQL-отчёты пометкой об изменении методологии, чтобы любой потребитель отчёта видел предупреждение.
Подводные камни
- Частые ошибки. делают вывод о "продуктовом успехе/провале" на основе скачка, вызванного исключительно сменой логики трекинга; при построении долгосрочных трендов (YoY retention, годовой churn) "протаскивают" через точку разрыва единый ряд без поправки, что искажает все производные метрики (retention, конверсии), рассчитываемые на основе события.