Ну так посчитай нормали у граней куба, это ты можешь сделать? Надеюсь да, потому что это тривиально. Затем ты просто берёшь проходится циклом по всем вершинам, и смотришь к каким плоскостям они принадлежат. Так ты суммируешь все нормали плоскостей, которые включают вершину и делишь на их количество, получается усреднёная нормаль