тут выше есть ссылка на видео kubernetes против реальности и там как раз про тюнинг jvm немного. вкратце — тюнить сначала саму jvm, у неё есть параметры для этого, а потом уже выствлять ресурс реквесты и лимиты для подов — а вот про это и на сайте кубера есть и вообще примеров хватает
должен быть overcommit памяти, иначе если всем раздать по лимитам в соответствии с настройками jvm, и кол-во подов на ноду рассчитать по этим лимитам, серверов понадобитьс в 3 раза больше