Данные шардированы по хешу от идентификатора клиента. Несколько крупных клиентов дают около 80% нагрузки, и она приходится на один шард. Что здесь поможет?

Хеширование выравнивает распределение ключей, но не распределение нагрузки по ключам: если один клиент генерирует пятую часть трафика, его данные всё равно окажутся на одном шарде, сколько бы шардов ни было. Поэтому удвоение числа шардов ничего не меняет — оно лишь дробит и без того равномерную часть. Рабочих подходов два, и обычно их сочетают: сделать ключ составным, добавив к клиенту второе измерение (период, регион, идентификатор сущности), чтобы данные крупного клиента распределялись по нескольким шардам, и вынести самых тяжёлых клиентов на отдельные шарды или в отдельный кластер, где их можно масштабировать независимо. Распределение по кругу разрушает локальность: любой запрос по клиенту превратится в обход всех шардов, а задержка станет равна самому медленному из них. Реплика на чтение снимает часть чтений, но не помогает записи и не устраняет причину перекоса — это смягчение симптома, а не решение.