Датасет был из 150 тренировочных изображений и около 40 проверочных
я читал работв недавно.
такой трюк: делай искаженные изображения. поворот, изменение яркости, изменение контраста, добавление шума. и НЕ показывай оригиналы сети. и все равно требуй правильный вывод.
тогда сеть видит миллион разных картинок. и переобучения нет.