AF
До этого яндекс ещё node выкатывал
Size: a a a
2021 January 13
AF
Но она вроде осталась где то в архивах
DP
Из своего маленького опыта табнета: он лучше бустингов, когда фичи наши однородные(например, как было в MOA соревновании на каггле, где фича 1 — это экспрессия гена А, фича 2 — экспрессия гена Б итд).
А когда данные очень разнородные (например, в банковском скоринге, где много пропусков, кат фичей итд) Бусты пока недосягаемы
А когда данные очень разнородные (например, в банковском скоринге, где много пропусков, кат фичей итд) Бусты пока недосягаемы
а насколько лучше?
DP
ну был еще натуральный бустинг, который должен был всех рвать, но пока чего-то не рвет) хотя идея прикольная
K
ну был еще натуральный бустинг, который должен был всех рвать, но пока чего-то не рвет) хотя идея прикольная
Ты видимо про NGBoost от ребят из Стэнфорда. Вроде нет, рвать он не обещал. Его фишка была в том, что он не точечный прогноз давал, а прям выборку из апостериорного распределения)
Я пробовал его заводить, но с лгб/хгб/катб он вообще не конкурентен
Я пробовал его заводить, но с лгб/хгб/катб он вообще не конкурентен
K
а насколько лучше?
Ну...) на уровне соревнования много. В MOA использовался логлосс в качестве метрики. Табнет вроде 0.01842 давал, а бустинг — ~0.01900, если не путаю
K
Прогноз средним если что давал 0.02003😂
AF
Хахахаха 😂
AF
Ну там я видел крутое решение о переводе табличек в картинки и использования tabnet и вроде cnn
AF
Топ конечно
K
Aleksey Firstov
Ну там я видел крутое решение о переводе табличек в картинки и использования tabnet и вроде cnn
Да, там вроде efficientnet натравили
DP
Ты видимо про NGBoost от ребят из Стэнфорда. Вроде нет, рвать он не обещал. Его фишка была в том, что он не точечный прогноз давал, а прям выборку из апостериорного распределения)
Я пробовал его заводить, но с лгб/хгб/катб он вообще не конкурентен
Я пробовал его заводить, но с лгб/хгб/катб он вообще не конкурентен
ну обещают рвать они все. Да, и по логике это прям должно было начать многим заходить. Но не заходит
AF
Tabnet тоже обещал)
DP
ну может у них все впереди)
AF
Что понравилось в статье по табнет норм обьяснение успешности бустинга перед nn
DP
о! мерси, мне как раз под лекцию надо хорошо сформулированные преимущества
K
ну обещают рвать они все. Да, и по логике это прям должно было начать многим заходить. Но не заходит
Мне кажется, ещё проблема в том, что хгб/лгбм/катб так или иначе хорошо оптимизированы ещё чисто программерски. А ручные поделки даже если гениальные математически, часто могут быть совершены не юзабельны с практической точки зрения
V
всем привет, помню был здесь добрый человек, который слепил пдфки лекций в одну (или в шесть, по одну на каждый курс) - есть у кого то такое под рукой?
AF
о! мерси, мне как раз под лекцию надо хорошо сформулированные преимущества
На хабре даже где то видел перевод
K
Aleksey Firstov
На хабре даже где то видел перевод
Ой, я тоже видел. Но такое ощущение, что это был машинный перевод:D