я помню в древние времена, лет 10 назад - CMS надо было тюнить чтобы не икал (и не сваливался в STW GC)
а G1 вроде и из коробки уже неплох
и вообще главное зло это среднеживущие объекты типа кешей, потому как короткоживущие собираются параллельно, долгоживущие вообще не собираются
и фундаментальные решения против долгих и сложных GC - это держать кеши офф хип