K
И какой смысл в логреге брать производную по входу? Мы ведь не эмбеддинги хотим получить
Size: a a a
2020 December 03
A
на этот вопрос отвечает твой первый комментарий про плохо составленное задание.
K
Хз, тут логичнее полагать, что они под x_in все же имеют в виду скалярное произведение вектора весов и вектора признаков, а иначе косяки как-то ещё грубее выглядят
A
я так понимаю, задание просто на взятие цепочки. типа, в ответе мы получаем dE/d x_out * d x_out/d x_in, второе слагаемое дифференцируется по формуле.
A
как фильм "Довод" - больше вопросов, чем ответов...
K
Александр Мелехин
Доброго вечера, не подскажете, как подступиться к данной задаче? Не понимаю формулировку вопроса (что значит "выразите в терминах"?), да и в целом в области DL (и backprop в частности) я слабоват.
Да ещё мало того, что смещение нулевое, так ещё и вес при признаке исходя из этой формулы единичный, если считать под x_in — просто входное значение признака. Так что, imho, это все же скалярное произведение. Так хоть какой-то смысл есть
A
Да ещё мало того, что смещение нулевое, так ещё и вес при признаке исходя из этой формулы единичный, если считать под x_in — просто входное значение признака. Так что, imho, это все же скалярное произведение. Так хоть какой-то смысл есть
да вполне, просто для решения не нужно.
A
Добрый день. Я совсем недавно начал заниматься датасаенсом, есть задача регрессии, для нее написана нейронка. Какие есть общие рекомендации или способы улучшить нейронку? Возможности дать больше данных на обучение нет
Ю
Alexander
Добрый день. Я совсем недавно начал заниматься датасаенсом, есть задача регрессии, для нее написана нейронка. Какие есть общие рекомендации или способы улучшить нейронку? Возможности дать больше данных на обучение нет
Лучшая рекомендация из общих, если не готовы рассказать про данные - не использовать нейронку. Можно начать со святой троицы: линейные модели, ближайшие соседи, решающие деревья
A
В Azure помимо нейронки тренировались и линейные модели и деревья. Нейронка намного лучше показала себя, сказали ее реализовывать питоновскими средствами
Ю
Alexander
В Azure помимо нейронки тренировались и линейные модели и деревья. Нейронка намного лучше показала себя, сказали ее реализовывать питоновскими средствами
Кратко - непонятно какая у Вас проблема, общих рекомендаций очень много. Может у Вас не получается уравнять качество на тестовых и обучающих выборках и надо бороться с переобучением. Или качество сопоставимо, но надо в целом его улучшить. Напонятно, можно ли менять структуру сетки и прочее
МС
Можно сказать, что тут нет общих рекомендаций, нужно экспериментировать. Пробуйте разные комбинации регуляризаторов, функций активации, количество и типы слоев. Еще зависит от того, нужна ли интерпретируемость модели. Если нужна, нейронку лучше отложить в сторону
Попробуйте погенерить новые фичи
Попробуйте погенерить новые фичи
Ю
Ну и о данных ничего не известно. Датасейнс в основном про данные, а модели - уже вторично
Ю
То есть качество в первую очередь данными определено
A
С данными пока нет информации. Результат на тестовой и обучающей сопоставимы, нужно его улучшить
A
Можно сказать, что тут нет общих рекомендаций, нужно экспериментировать. Пробуйте разные комбинации регуляризаторов, функций активации, количество и типы слоев. Еще зависит от того, нужна ли интерпретируемость модели. Если нужна, нейронку лучше отложить в сторону
Попробуйте погенерить новые фичи
Попробуйте погенерить новые фичи
Спасибо, буду пробовать
A
То есть качество в первую очередь данными определено
И вам спасибо, как данные появятся, будем думать
RS
Привет, если у меня есть смесь из двух распределений (равномерная), вероятность от 0 до 1 одна, а другое от 1 до 2 другая, как мне посчитать мат ожидание?
AM
Добрый день всем! Кто-нибудь сталкивался с переводом датасета в .mat-файл?
Ю
Добрый день всем! Кто-нибудь сталкивался с переводом датасета в .mat-файл?
Модуль scipy IO пробовали?