S
Может кто-то подсказать, зачем после свертки и пулинга используют какую-либо функции активации, например, ReLU, разве пулинговый слой и так не сжимает изображение?
Size: a a a
2020 May 23
VZ
разве после? Активационная ведь в свертке находится, а потом уже пулинг
S
Я смотрю курс от стенфорда, они делают: свертка, пулинг через максимум, релу, свертка, пулинг, дропаут, релу
S
разве после? Активационная ведь в свертке находится, а потом уже пулинг
В результате гуглинга выяснил, что свертка линейная операция, а пулинг просто сжимает изображение, поэтому чтобы модель могла распознавать более сложные фичи нужно добавить нелинейности, а простейший способ это сделать — ReLU
PK
Может кто-то подсказать, зачем после свертки и пулинга используют какую-либо функции активации, например, ReLU, разве пулинговый слой и так не сжимает изображение?
чтобы ввести нелинейность
PK
свертка и пуллинг и т.п. это по сути линейная функция
PK
нелинейность лучше может найти сложные зависимости и т.п. ну это простыми словами (как я понимаю)
PK
оп, меня уже опередили, не прочитал сообщение выше =)
S
оп, меня уже опередили, не прочитал сообщение выше =)
Спасибо!)
RN
нелинейность лучше может найти сложные зависимости и т.п. ну это простыми словами (как я понимаю)
Просто если все функции будут линейными, то вся нейросеть сводится к одному нейрону
PK
ну да точно, 2+ линейности подряд равны 1 линейности
V
Почему часто вводя полиномиальную регрессию, говорят, что она нелинейная?)
AK
Почему часто вводя полиномиальную регрессию, говорят, что она нелинейная?)
Это какая-то шутка?
2020 May 24
V
Это какая-то шутка?
Нет, это курс от вашингтонского универа и на скрине верный ответ
V
То есть пункт 2 - линейная регрессия, это меня конфъюзит
AK
Баг, наверное. 4 пункт ведь тоже линейная функция
RN
Баг, наверное. 4 пункт ведь тоже линейная функция
билинейная
V
Судя по “Hint” - не баг)
YS
Все правильно в задании, функция должна быть линейная относительно весов модели