смотри, у тебя три числа
исходя из условия их можно представить как
X = x * A
Y = y * A
Z = z * A * B
и условие что сумма двух елементов должна равняться третьему, то есть
X+Y=Z
или
Z+X=Y
или
Z+Y=X
ну и дальше перебором подбираешь маленькие x y z пока не получишь равенство