📊 Статистика и теория вероятностей

Короткий ответ Среднее по группам считается через AVG(...) ... GROUP BY; для медианы в PostgreSQL используется percentile_cont(0.5) WITHIN GROUP (ORDER BY ...), а точный синтаксис медианы отличается между диалектами SQL. Как это работает подробнее AVG — стандартная агрегатная функция, доступная практически во всех СУБД одинаково. Медиана не входит в стандартный набор агрегатных функций большинства СУБД и требует функций для расчёта процентилей или оконных конструкций. Такие запросы часто становятся основой для автоматизированных регулярных отчётов и дашбордов. Пример кода Что использовать на практике На практике: диалект имеет значение: в PostgreSQL используют percentile_cont/percentile_disc, в ClickHouse — median()/quantile(0.5)(), в BigQuery — PERCENTILE_CONT как оконную функцию, в MySQL до версии 8 нет встроенной функции медианы и её часто эмулируют через переменные или оконные функции ROW_NUMBER/PERCENT_RANK. Перед использованием медианы в проде стоит явно проверить синтаксис под конкретную СУБД. Для восп

Читать полностьюmean

Короткий ответ Лучше всего работает сочетание разбора конкретных неправильных формулировок с объяснением, почему они неверны, практики на симуляциях (A/A-тесты, где заранее известно, что эффекта нет) и ревью реальных выводов junior-аналитика с конкретной обратной связью по формулировкам — одной лекции о теории обычно недостаточно для устойчивого изменения привычек. Как это работает подробнее ошибки интерпретации p-value чаще всего закрепляются не из-за незнания формального определения, а из-за привычных, интуитивно "удобных" неверных формулировок ("p-value — это вероятность того, что гипотеза верна"), которые звучат похоже на правильные; нужно прицельно тренировать распознавание таких формулировок. Sanity check: попросить junior-аналитика предсказать результат до запуска симуляции ("как часто мы увидим p<0.05 при отсутствии реального эффекта?") — явное расхождение предсказания с фактическим результатом часто становится наглядной точкой обучения. Пример кода Что использовать на практике Эффективный подход — да

Читать полностьюhypothesis-testing

Короткий ответ Считаем Q1 и Q3, IQR = Q3 − Q1, и помечаем выбросами значения ниже Q1 − 1.5×IQR или выше Q3 + 1.5×IQR; коэффициент 1.5 — распространённое, но не обязательное значение. Как это работает подробнее метод опирается только на порядок значений (квартили), а не на среднее и стандартное отклонение, поэтому устойчив к искажению самими выбросами. Коэффициент 1.5 условно задаёт границу «умеренного» выброса; для более строгого отбора иногда используют коэффициент 3. Пример кода Что использовать на практике На практике: метод хорошо подходит для умеренно скошенных распределений и как первый, быстрый скрининг. Для сильно скошенных данных (например, выручка с «длинным хвостом») даже обычные крупные, но легитимные значения могут попасть под правило — тогда стоит смотреть на данные в лог-шкале или использовать доменные знания, а не слепо удалять такие строки. Для продуктовых метрик с естественными нижними границами (например, время — не может быть отрицательным) стоит дополнительно проверять логичность самих зн

Читать полностьюiqr

Короткий ответ Средняя зарплата учитывает зарплаты всех, включая топ-менеджеров с очень высоким доходом, поэтому может выглядеть выше, чем зарабатывает «типичный» сотрудник; медианная зарплата — это зарплата человека ровно посередине, если всех выстроить по доходу, и она лучше отражает типичный опыт. Как это работает подробнее если в компании 99 сотрудников получают около 80 000, а один топ-менеджер — 5 000 000, среднее «тянется» вверх из-за одного большого числа, а медиана остаётся около 80 000, так как середина упорядоченного списка не меняется от одного крайнего значения. Пример кода Что использовать на практике На практике. для коммуникации с бизнесом полезна аналогия: «если в комнату с десятью обычными людьми зайдёт один миллиардер, средний доход в комнате резко вырастет, но типичный доход присутствующих не изменится» — это именно то, что показывает медиана в отличие от среднего. Такое объяснение хорошо заходит без формул и терминов. Такое же объяснение хорошо работает и для других скошенных метрик — вре

Читать полностьюdescriptive-statistics

Короткий ответ Основные рычаги — сузить объём данных до агрегации (фильтры по партиции/дате до JOIN), агрегировать большую таблицу до соединения с другими вместо соединения «сырых» строк, использовать подходящие индексы или ключи сортировки/партиционирования, и проверять план выполнения запроса, а не угадывать узкое место. Как это работает подробнее если агрегация нужна только после JOIN нескольких больших таблиц, часто эффективнее сначала агрегировать каждую таблицу отдельно (уменьшив число строк) и только потом соединять результаты — это снижает объём данных, участвующих в самом дорогом этапе. План выполнения (EXPLAIN/EXPLAIN ANALYZE в PostgreSQL, аналоги в других СУБД) показывает, где реально тратится время — сканирование таблицы целиком, дорогая сортировка для JOIN, или сам JOIN. Sanity check: сравнить EXPLAIN ANALYZE обоих вариантов — во втором варианте JOIN должен выполняться над заметно меньшим числом строк (agregated по user_id), что должно сократить общее время выполнения. Пример кода Что использоват

Читать полностьюaggregation

Короткий ответ Можно использовать квазиэкспериментальные методы (разность разностей, синтетический контроль, сравнение с похожей необработанной группой), если есть подходящая контрольная группа или период, либо явно строить прогноз "что было бы без изменения" на исторических данных и сравнивать с фактом — в любом случае нужно открыто обозначить, что это не строгий причинный вывод, а обоснованная оценка с допущениями. Как это работает подробнее при отсутствии рандомизации главная задача — найти правдоподобный аналог "контрфактического" сценария: что происходило бы, если бы решение не было принято. Это можно приблизить через сравнение с похожими сегментами/регионами, не затронутыми изменением, через прогнозную модель на исторических трендах, либо через поиск "естественного эксперимента" (решение было внедрено не везде и не одновременно). Sanity check: проверить, что на предпериоде динамика метрики в "изменённом" и "контрольном" рынках была похожей (общий тренд) — иначе использовать такой рынок как контроль неко

Читать полностьюcausal-inference

Короткий ответ На гистограмме смотрят на число «пиков» (мод), симметрию относительно центра и длину хвостов: один симметричный пик — похоже на нормальное распределение, длинный хвост в одну сторону — скошенное, два и более пика — возможна смесь разных подгрупп данных. Как это работает подробнее гистограмма группирует данные в интервалы (бины) и показывает частоту попадания в каждый — форма столбиков визуально приближает форму плотности распределения. Такой визуальный анализ часто предшествует выбору конкретного статистического теста или модели для дальнейшей работы с данными. Пример кода Что использовать на практике На практике: число бинов сильно влияет на то, что видно: слишком мало бинов скрывает детали, слишком много — создаёт «шумную» картину со случайными провалами. Бимодальность (два пика) часто сигнализирует, что в данных смешаны две разные подгруппы (например, новые и постоянные клиенты с разным типичным чеком) — тогда разумнее анализировать их отдельно, а не как единое распределение. Полезно также п

Читать полностьюdata-visualization

Короткий ответ Нужно явно разделить, какая метрика является guardrail, а какая — основной целью бизнеса на горизонте, и либо продлить тест для оценки долгосрочного эффекта, либо принять компромиссное решение с открытым обсуждением рисков, а не автоматически ориентироваться только на краткосрочный сигнал. Как это работает подробнее краткосрочные метрики (клики, вовлечённость в моменте) реагируют быстро, но могут отражать манипулятивные паттерны (агрессивные уведомления, тёмные паттерны интерфейса), которые со временем приводят к усталости пользователей и росту оттока — долгосрочные метрики (retention, LTV) улавливают это позже. Sanity check: убедиться, что окно наблюдения за долгосрочной метрикой действительно достаточно для её стабилизации (например, retention за 8 недель не продолжает резко падать дальше) перед принятием финального решения. Пример кода Что использовать на практике Если ресурсы позволяют, полезно держать часть пользователей в holdout-группе дольше основного теста, чтобы отследить отложенные э

Читать полностьюab-testing

Короткий ответ Доверительный интервал для разности пропорций строится вокруг точечной оценки (p2 − p1) с учётом стандартной ошибки разности, рассчитанной по дисперсиям каждой пропорции, и критического значения нормального распределения для выбранного уровня доверия. Как это работает подробнее стандартная ошибка разности двух независимых пропорций считается как корень из суммы (p1(1−p1)/n1 + p2(1−p2)/n2); интервал = (p2−p1) ± z × SE. Этот подход опирается на нормальную аппроксимацию, которая хорошо работает при достаточно большом n и конверсиях, не слишком близких к 0 или 1. Пример кода Что использовать на практике На практике. интервал для разности полезнее одного p-value, так как сразу показывает и направление, и величину эффекта, и его неопределённость — например, интервал [−0.5%; +3.5%] говорит о высокой неопределённости, даже если точечная оценка положительна. Если интервал включает ноль, нет оснований утверждать о статистически значимой разнице при выбранном уровне доверия. Также стоит проверить, не нару

Читать полностьюab-testing