Траектория действительно будет рваная - из линий. Дёрганье станка - это торможение и ускорение на каждом углу между линиями. Если увеличить точность в траектории - линий будет больше, но угол между ними меньше, но не факт что перестанет дёргаться - обычно за это отвечают параметры g61/g64 - проходить траекторию точно с остановками на углах/прохождение с постоянной скоростью но сглаживая углы. Далее в настройках траектории есть опция смузинг - она апроксимирует полилинии дугами там где это возможно. Но будет вместо кучи линий - куча дуг разного радиуса. На их стыках станок так же может тормозить если нет сглаживания. Попробуйте.