Но задачи сортировки ведь выполнена. Хоть и использует дополнительную структуру.
И это ввело в ступор.
если хочешь convex hull за линию, нужно тоже какую-то дополнительную структуру в задачу ввести (например что точки даны в порядке обхода валидного многоугольника)