I
ааа, там по выходу производная
Size: a a a
2020 April 09
I
по выходу релу
I
всё я врубился
I
короче релу тебе выдает двумерный вектор
I
и тебе надо найти производную выхода вычислительного графа по выходу релу
I
вообще у тебя обратное распространение?
I
как градиент тебе надо считать
n
вообще без идей...
I
вот твой вычислительный граф, есть выходы x1, x2 и x3, с ними че-то там происходит, потом идет релу, потом ещё че-то происходит и потом они превращаются в число
n
так
I
и тебя просят найти производную output по выходу релу, то есть по входу следующего после relu слоя
I
я обвел эту функцию
I
понятно?
I
ну а чтобы это сделать тебе вообще пофиг на релу, тебе надо делать обратное распространение от output и до релу
n
здесь пока да, но не совсем понимаю причём тут переданный вектор?
I
переданный куда?
n
тот вектор (-1, 1)
I
(-1 1) это вектор частных производных (d_output / d_y1 d_output / d_y2)
I
где (y1 y2) это выходной слой для релу
I
вот я подписал