Я правильно понимаю, что если мы плавно удалим все записи и больше ничего не сделаем, то пользы не получим?
Вам в любом случае надо удалить пропуски после удаления. Условно говоря, дефрагментация делать.
Это можно либо через создание новой таблицы, либо через vacuum full.