композиция, сумма - это бэггинг

ну, вообще можно объяснить, например, что 80 из 100 деревьев проголосовали за отказ, и посмотреть на каждой итерации на наиболее популярное решение в узле

И леса (бэггинг), и бустинг - это сумма деревьев, но леса строятся независимо и параллельно, а бустинг - последовательно. Там алгоритм обучения разный, а применение в итоге практически одинаковое.

Смотреть всё полотно глазами не надо.
Можно в коде пройти по всем деревьям и всем сплитам в каждом дереве, и высчитать, насколько скор уменьшился/увеличился суммарно за счёт каждого признака. И это уже человеку показывать.

можно, но сначала надо пробежаться по 80 деревьям с вершины до последнего листа

но вообще же у rf есть метод feature importance, просто показываешь резы и мб лапшу поднавешиваешь, что отсмотрел 80 деревьев

В катбусте, например, такая объяснялка из коробки поддержана, кажется.

это хорошо, но так называемую скоркарту, там где к каждой фиче подтянут балл и можно посчитать самому этот балл и не прогонять через алгоритм

что-то типо:
мужской пол- 30 баллов
женский пол - (-30) баллов
и тд

но это уже крайности,как мне кажется

Скоркарта как полная модель для всех - это чисто аддитивная штука, с деревьями, она не сочетается, это правда. Сорян.

Но на основе деревьев можно сделать скоркарту индивидуальную, для отдельного взятого индивида. Кому-то будет за пол даваться -30, а кому-то только -10, в зависимости от других признаков.

Хотя на самом деле и настоящую скоркарту можно на основе бустинга запилить, если делать деревья не глубже 1-2 сплитов. Тогда все взаимодействия не больше чем между парой фич, и их можно выписать в явном виде, и это будет читаемо.

Я такое делал, когда в Альфа-Банке работал, и это даже прошло через все валидации)

Ребят, а используя байесовские методы я могу интерпретировать модель ?

>Сама техника и многие результаты байесианцев плохо интерпретируемы для простых смертных. Можно поверить, что объекты как-то распределены (например, клиенты интернет-магазина), но вот поверить, что параметры распределений как-то распределены нормальному человеку сложнее…

Из блога Дьяконова

У Ветрова "вероятность интерпретируется как мера незнания, а не как объективная случайность"

не знаю, наскок для не математика это понятно, видимо, не особо

is_18 = titanic_df["Age"] >= 18
more_than_18 = titanic_df[is_18].sort_values("Age")

тут я вывожу тех, кому уже за 18.
Мне нужно вытащить тех, кому за 18 и они выжили. Пытался вот так:

is_survived = titanic_df["Survived"] == 1
survived_and_18 = more_than_18[is_survived].sort_values("Survived")

Но он не показывает всех, почему-то выживших кому за 18. Он показал лишь 1 чела кому 18, а потом сразу перскакивает на 30+ почему-то
Хотя если принтануть more_than_18 то там как минимум 4 чела, которые выжили и им по 18

df[df['Survived'] == 1]['Age'] >= 18

)))

там выводит тру, фолс, а как вывести данные?)