Если зфс зажирает память то значит что в пулы не влезет потому что под арки по-дефолту 50% забирает, нужно уменьшать и поставить swappines правильно (если жалко рамы - то побольше, но тогда будет дрочить диски, чтобы меньше дрочило диск - vfs.zfs.scrub_delay=0)