Если Грокаем алгоритмы прочитана, можно смотреть разные алгоритмы здесь:
https://e-maxx.ru/algo/А в математике можно отдельные темы смотреть, смотря что нужно. Боюсь, тут нет просто "одной книжки".
Теория графов для работы с графами.
Для графики и подобного - Алгебра, аналитическая геометрия, векторы, матрицы.
Для машинного обучения и НС - мат. анализ, теории оптимизации.
Работа с языками программирования - теорию формальной грамматики.
Прочее для разработки в целом - конечные автоматы, дискретную математику.