K
Давайте даже возьмём крайнюю ситуацию: пусть у нас идеальная строгая положительная корреляция между сетями (иначе говоря их прогнозы просто одинаковы). Как же тогда их усреднение может ухудшить качество прогноза?)
Size: a a a
2020 November 20
K
какой-то биморф 2.0 прямо)
IK
Так вы разницу между случайным лесом и усреднением сетей на разных сидах сможете пояснить?))
Ну, разница есть. В случайном лесе мы подаем разные подмножества признаков в деревья, а в усреднении сетей будем учить каждую сеть на одинаковых признаках
K
это разница в методах достижения одной и той же цели -- декорреляции прогнозов базовых алгоритмов для увеличения эффекта уменьшения дисперсии от усреднения. В лесу этого добиваются бэггингом, построения расщепления на подмножествах признаков и тд, а в сетях -- на разной случайной инициализации весов, но сути это не меняет
K
просто обычно -- изменение сида слишком слабо влияет на прогнозы сеток, они получаются сильно похожими друг на друга и потому эффекта от их усреднения немного. Но так происходит не всегда. Вот и задачка про лекарства тому явный пример
D
Всем привет. Кто сталкивался с gaussian mixture в кластеризации? Вопрос в следующем, на двумерном массиве данных каждый запуск выдает разные результаты кластеризации при одних и тех же параметрах. Почему так происходит и можно ли это победить?
K
Danis
Всем привет. Кто сталкивался с gaussian mixture в кластеризации? Вопрос в следующем, на двумерном массиве данных каждый запуск выдает разные результаты кластеризации при одних и тех же параметрах. Почему так происходит и можно ли это победить?
потому что алгоритм случайный -- в начале средние и матрица ковариаций инициализируются случайно. Укажите random_state для воспроизводимости результатов
D
потому что алгоритм случайный -- в начале средние и матрица ковариаций инициализируются случайно. Укажите random_state для воспроизводимости результатов
Спасибо
SS
с сетками работал мало, но подозреваю, что от сида они зависят значительно, например - часто делают аггрессивный dropout > 0.2
I
не ну все верно, так делают с сетками: можно даже без всяких сидов - обучить 20 моделей - на 200 эпохах например. у всех у них будет разная точность предсказания, и обобщить результат.
В
Господа знатоки, подскажите в чем проблема, метод одинаковый, данные одинаковые, а результаты другие
В
SS
возможно, потому что int массивы, а не float
AI
Сравни явно массивы перед функцией
AI
Мне не верится что они равны
SS
один массив - float, другой - int
MN
Sergey Salnikov
один массив - float, другой - int
А почему это должно было дать разные значения в статистике? 3 питон равенство между 1 и 1.0 подтверждает, а итоговое значение всё равно к float приводится
MN
не обобщаю, но мне кажется дело не в разнице типов
i
запустите в дебагере и посмотрите