Егор Овчинников
Всем привет. Объясните пожалуйста разницу между метрикой качества и функцией ошибки в задачах регрессии, классификации... Если не сложно с примерами. Мы качество измеряем в регрессии: MAE, RMSE и т.д., В логистической logloss. В задачах классификации - accuracy, precision, recall, roc-auc и т.д. Поправьте пожалуйста и объясните убогому!!!
Если очень по простому, функции потерь дифференцируемы и за счёт этого они используются при обучении, модели. То есть модель в процессе обучения рассчитывает функцию потерь и путём подбора параметров уменьшает ее значение. То есть модель как бы знает значение функции потерь и стремится его уменьшить. А вот функция качества, если она не совпадает с функцией потерь (accuracy , recall, precision, roc-auc, f1...)как бы не известна модели и на прямую модель не оптимизирует качество.
Можно сказать ещё так, что функция потерь участвует в обучении модели а функция качества нет - она только лишь даёт оценку качества модели.
Ещё один пример: в задачах классификации, если мы используем логистическую регрессию в обучении в качестве функции потерь применяется функция кросс-энтропии(logloss), а вот метрикой качества у нас может быть и roc-auc, если нам требуется предсказать вероятность принадлежности объекта к классу, а может быть f1, в случае если нам не нужна вероятность отнесения объектов к классу, но классы при этом имеют дисбаланс, а можно использовать accuracy, если классы сбалансированы.
Можно ещё сказать, что тип функции потерь как бы определяется выбором модели, а метрика по которой оценивается качество модели определяется некой логикой. И как выше говорили, одну и туже модель можно оценивать разными метриками.