Строго говоря, аппроксимация подразумевает замену функции функцией (более простой, например, полиномом меньшего порядка). С многоугольником никак не прокатит, если только у тебя нет функции, описывающей этот многоугольник. Ну или она будет крайне нетривиальна, поэтому ты скорее ее аппроксимируешь дугой или сплайном, чем наоборот.
Интерполяция в свою очередь подразумевает переход от дискретных значений к дискретным значением (различными методами, в том числе через промежуточную интерполирующую функцию).
Ключевая разница - результат. У аппроксимации - функция, у интерполяции - набор дискретных значений.
В случае с экспортом модели из твердотелки в STL речь идет однозначно об интерполяции либо просто о вычислении значений функции в некоторых точках (которые дают нам меш).
В случае с обратной задачей - получение матмодели по дискретным значениям - все немного сложнее, на самом деле. В целом это называется реконструкция (recovery), конкретнее - приближение с помощью кривых (curve fitting), и бывает интерполяционным и сглаживающим. Интерполяционная реконструкция - получение функции, которая точно опишет изначально заданный датасет, но может быть сколь угодно сложной. Пример - получение функции прямой по двум точкам. Сглаживающая реконструкция - получение функции из ограниченного семейства функций попроще, которая может не описывать точно изначальный датасет, но будет к нему достаточно близка.
Так что в случае с восстановлением модели из меша строго говоря мы имеем дело и не интерполяций, и не с аппроксимацией, а с реконструкцией, а какой тип используется - это уже зависит от софта и задачи, но я полагаю, что все-таки мы хотим использовать сглаживание. Но очень часто процедуру не вполне корректно называют таки аппроксимацией, потому что (а) получаем на выходе функции и (б) получаем приближенное представление изначального меша