Я думаю, можно обойтись просто массивом индексов. Это окупится, потому что доступов сильно больше
хз, посмотри всякие MarkTable в GC. Там похожее кодирование страниц делается. Либо Линукс покопай и кодирование страниц там. Если я правильно понял тебя