смотри, если разбирать по итерациям то у получается так:
передали 5...
2 < 5 = true
заходим во второй цикл, создаётся j но проверка j < i не проходит и проверка не срабатывает, выводим i (2), i++
3 < 5 = true
заходим во второй цикл, 2 < 3 = true
заходит в проверку, 3 % 2 == 1 то есть continue не срабатывает, НО срабатывает j++ - j = 3, выводим i (3), i++
4 < 5 = true
заходим во второй цикл, 3 < 4 = true
заходит в проверку, 4 % 3 == 1 то есть continue не должно сработать.... j++, выводим i (4), i++
дальше 5 < 5 = false и всё