Популярный ключ истекает, и сотни параллельных запросов одновременно уходят в базу за одним значением. Какие приёмы защищают от этого?

Давка возникает из-за совпадения двух условий: ключ популярен и промахивается одновременно у многих клиентов. Разброс времени жизни разводит истечение во времени и стоит одну строку кода — это минимальная обязательная мера. Пересчёт в один поток решает задачу точнее: первый запрос берёт блокировку и идёт в базу, остальные ждут результат или получают предыдущее значение, поэтому источник получает ровно один запрос независимо от числа клиентов. Выдача устаревшего значения с фоновым обновлением обычно лучше всего для пользователя: ответ приходит немедленно, а свежесть подтягивается асинхронно. Одинаковое время жизни для всех горячих ключей — прямая причина проблемы: тысячи ключей истекают в одну секунду и дают базе согласованный залп. Стоит помнить и о смежных сценариях: запросы к несуществующим ключам всегда идут мимо кэша, поэтому кэшируют и отрицательный результат, а при полной недоступности кэша спасает уже не кэш, а ограничение конкурентных обращений к базе.