Не возьмусь помочь, но если нельзя попасть по ssh, то либо оперативная память кончается, либо CPU вверх улетает.
По памяти самый норм - не разбираться в проблеме, а делать периодические рестарты процессов. Раз в сутки, раз в n часов или по достижении X гигабайт. Настроил один раз и забил на несколько лет / навсегда.
По CPU начать с того, что зайти на host пару раз, запустить htop и посмотреть, что там кочегарит. Если заметил, что сервер живет часов 8, то зайди раз в 2 часа и понаблюдай минуту-две.
В compose файле можно настроить и рестарты, и ограничить использование ядер
https://docs.docker.com/compose/compose-file/compose-file-v3/#resources и ниже restart_policy