⚡ Кеширование

Короткий ответ Cache stampede — ситуация, когда популярный кешированный ключ истекает, и множество одновременных запросов «проваливаются» в основной источник данных сразу, создавая всплеск нагрузки на БД; предотвращают блокировкой пересчёта, ранним обновлением или джиттером TTL. Как это работает подробнее Без защиты каждый из N одновременных запросов, увидевших cache miss, независимо идёт в БД за одними и теми же данными и независимо записывает результат обратно. Пример кода Что использовать на практике Практика. Решения — распределённая блокировка (только один процесс пересчитывает), stale-while-revalidate (отдавать старое значение во время фонового обновления), случайный разброс (jitter) TTL. Подводные камни Риск. Ставить одинаковый фиксированный TTL для всех записей, закешированных в один момент (например, при прогреве) — массовое синхронное истечение почти гарантирует stampede под нагрузкой.

Читать полностьюcache-invalidation

Короткий ответ Конфигурацию разделяют по окружениям, чтобы тесты и разработка не затрагивали продовые данные и ресурсы, а изменения можно было безопасно проверить перед продом. Как это работает подробнее Приложение читает адреса и учётные данные из переменных окружения/конфигурации, которые отличаются для каждого окружения, при одинаковом коде приложения. Пример кода Что использовать на практике Практика. Снижает риск случайного повреждения продовых данных во время разработки/тестирования, позволяет проверять изменения схемы и нагрузочные сценарии изолированно. Подводные камни Риск. Хардкодить продовые адреса/секреты в коде; использовать общую БД для staging и prod «для простоты», что приводит к взаимному влиянию данных.

Читать полностьюcache-invalidation

Короткий ответ Между записью в БД и обновлением/удалением кеша может вклиниться параллельное чтение, которое закеширует устаревшее значение; надёжнее удалять кеш после коммита БД-транзакции и использовать короткий TTL как страховочную сетку. Как это работает подробнее Если порядок — «удалить кеш, затем обновить БД», параллельный читатель между шагами может прочитать из БД старое значение и закешировать его уже после удаления, оставив устаревшие данные до TTL. Пример кода Что использовать на практике Практика. Полностью убрать гонку без блокировок или версионирования сложно; снижают риск коротким TTL, версионированием записи (кешировать с номером версии) либо последовательной обработкой через очередь событий. Подводные камни Риск. Считать, что порядок «сначала БД, потом кеш» полностью устраняет гонку — он лишь снижает окно её возникновения; не задавать TTL вообще при invalidate-on-write.

Читать полностьюcache-invalidation

Короткий ответ Устойчивость строят комбинацией таймаутов, ограниченных retry с backoff и джиттером, circuit breaker и осмысленного fallback (включая кеш последнего успешного ответа) — конкретный набор и агрессивность этих механизмов зависят от критичности операции. Как это работает подробнее Таймаут ограничивает время ожидания одной попытки; retry даёт шанс на успех при кратковременных сбоях; circuit breaker прекращает бесполезные попытки при затяжной деградации; fallback позволяет не отказывать пользователю полностью. Более агрессивная защита увеличивает видимую надёжность, но может маскировать реальные проблемы зависимости надолго и увеличивает сложность тестирования; более консервативная защита проще и честнее относительно актуальности данных, но может чаще показывать ошибки при кратковременных сбоях. Критерий выбора — критичность актуальности данных для операции и готовность бизнеса принимать риск устаревшего fallback против риска более частых отказов. Пример кода Что использовать на практике Практика. Дл

Читать полностьюcache-invalidation

Короткий ответ Для часто изменяемых критичных данных типа цен нет единой оптимальной стратегии — выбор между коротким TTL, event-driven инвалидацией и отказом от кеширования зависит от допустимого окна неточности, частоты изменений и последствий показа устаревшей цены для конкретного бизнеса. Как это работает подробнее Event-driven инвалидация даёт минимальное окно устаревания, но требует надёжной доставки события во все кеширующие узлы (подвержена тем же проблемам at-least-once/дублей); короткий TTL проще, но гарантирует окно устаревания размером с TTL независимо от того, изменилась цена или нет. Чисто TTL-подход прост и устойчив к сбоям доставки событий, но создаёт предсказуемое окно устаревания даже без изменений; event-driven подход даёт минимальную задержку обновления, но добавляет инфраструктурную сложность и сам подвержен потере сообщений, поэтому на практике их комбинируют. Независимо от стратегии витрины, критичную точку (подтверждение оплаты) стоит защищать финальной сверкой цены из источника правды

Читать полностьюcache-invalidation

Короткий ответ Cache-aside — приложение само читает из кеша, при промахе идёт в БД и кладёт результат в кеш; write-through — запись сразу идёт и в БД, и в кеш синхронно в рамках одной операции обновления. Как это работает подробнее При cache-aside кеш заполняется лениво по факту чтения, инвалидация — отдельный шаг при записи; при write-through обновление кеша встроено в транзакцию записи, и кеш никогда не «пустой» для изменённых данных. Пример кода Что использовать на практике Практика. Cache-aside выбирают, когда читаемые данные — лишь часть всех данных; write-through — когда критична согласованность кеша сразу после записи и профиль чтения предсказуем. Подводные камни Риск. При cache-aside забывать инвалидировать кеш при записи; при write-through не обрабатывать сбой записи в кеш как некритичную ошибку — запись в БД должна проходить, даже если кеш временно недоступен.

Читать полностьюcache-invalidation

Короткий ответ Инвалидация кеша — явное удаление или обновление устаревшей записи при изменении исходных данных, чтобы пользователи не видели старые значения дольше необходимого. Как это работает подробнее При изменении записи в БД приложение дополнительно удаляет или перезаписывает соответствующий ключ в кеше. Пример кода Что использовать на практике Практика. Простой способ — удалить ключ сразу после успешного обновления БД (invalidate-on-write); сложнее согласовать это при нескольких инстансах приложения и при сбоях (если удаление кеша не выполнилось, данные останутся устаревшими до истечения TTL). Подводные камни Риск. Забыть инвалидировать кеш в одном из мест обновления данных; удалять кеш до коммита транзакции в БД, тогда следующий запрос может закешировать всё ещё старое значение.

Читать полностьюcache-invalidation

Короткий ответ TTL — время, после которого запись в кеше автоматически считается устаревшей и удаляется, вынуждая следующий запрос обновить данные из источника. Как это работает подробнее При записи в кеш указывается срок жизни (секунды); хранилище (например Redis) само удаляет ключ по истечении TTL. Пример кода Что использовать на практике Практика. Короткий TTL — свежие, но чаще нагружает основной источник; длинный TTL — меньше нагрузки, но данные дольше могут быть устаревшими; TTL выбирают исходя из частоты изменений и критичности свежести. Подводные камни Риск. Ставить одинаковый TTL для всех видов данных без учёта частоты изменений; забывать, что TTL не гарантирует согласованность с БД сразу после обновления записи.

Читать полностьюcache-invalidation