выше было совсем не так, "как они различаются". а вот это уже похоже на исходную задачу. если в скобке у вас не (n^2+1), а (n+1), то задача тривиальна. если же это не описка, то вам скорее всего надо не найти все решения, а сосчитать их. для этого абсолютно не нужно решать никакие диофантовы уравнения, чистая комбинаторика: надо просто пересчитать дырки.