тебе нужно будет как-то вычислить uv в прямоугольнике (или даже параллелограмме), который должен повторяться, будь он частью атласа или отдельной текстурой (в последнем случае это тривиально)
в общем не стоит переводить текстурные координаты исходные в текстурные координаты в атласе. Нужно сохранить матрицу перехода (2x3) для каждой текстуры в атласе