Надо понять в чём ваша проблема:
1. Если вам кажется, что нужно парится о том, чтобы программа отдавала память линуксу, то нет, не нужно. Нужно читать про оверкоммит, чтобы понять, что линуксу пофиг вообще на пустые страницы
2. Если у вас после форсированного вызова FreeOSMemory у вас не возвращается память, то 100% где-то утечка
Ну смотри в простое приложение 17 метров, при работе до 200 поднимается. Когда нагрузку выключаю, 200 остается и не падает, но когда даю нагрузку так же 200. На работе же, когда нагрузки нету , потребление падает до 17 опять