Короткий ответ
Единого формального правильного ответа нет: обычно используют комбинацию оценки потенциального эффекта и уверенности в гипотезе (ICE/PIE-подобные скоринговые модели: Impact, Confidence, Ease), стоимости трафика (сколько недель займёт тест при доступном объёме пользователей) и стратегической важности направления, при этом прозрачно документируя критерии, чтобь приоритизация не выглядела произвольной для стейкхолдеров.
Как это работает подробнее
Как это работает: каждый кандидат оценивается по ожидаемому влиянию на ключевую метрику, уверенности в гипотезе (на основе пользовательских исследований, предыдущих данных, аналогичных кейсов) и трудозатратам на реализацию и анализ; тесты с высоким ожидаемым эффектом, высокой уверенностью и низкой стоимостью трафика получают приоритет, но это ориентир, а не жёсткое правило.
Пример скоринговой таблицы: | Тест | Impact (1-5) | Confidence (1-5) | Ease (1-5) | Score (I*C*E) | Недель трафика | |---|---|---|---|---|---| | Новый чекаут | 5 | 3 | 2 | 30 | 3 | | Цвет кнопки | 1 | 4 | 5 | 20 | 1 | | Персонал. рекомендации | 4 | 2 | 2 | 16 | 6 | Вывод: даже при более высоком score 'новый чекаут' стоит учитывать требуемые 3 недели трафика и возможные зависимости от других тестов перед финальным планом квартала.
Что использовать на практике
- На практике: важно учитывать зависимости между тестами (например, тест фичи X логически должен идти после теста базовой версии Y) и ограничения трафика по слоям экспериментальной платформы — физически одновременно можно провести ограниченное число тестов с достаточной мощностью на одну и ту же аудиторию.
Подводные камни
- Частые ошибки: приоритизация исключительно по громкости запроса стейкхолдера ('у директора это срочно') без формальной оценки ожидаемого эффекта и уверенности — это ведёт к перегрузке платформы низкоценными тестами и откладыванию потенциально более impactful гипотез.
- Компромисс: скоринговые модели типа ICE дают структуру, но сами оценки Impact и Confidence часто субъективны и могут быть продавлены политически; строгая приоритизация по ожидаемой ценности может игнорировать важные, но малоизмеримые стратегические эксперименты (например, исследование нового сегмента). Хорошая практика — сочетать количественный скоринг с явным резервированием доли трафика под стратегические/исследовательские тесты, прозрачно объясняя стейкхолдерам оба канала приоритизации.