Я не уверен, что ему нужно сейчас читать книги по математике. Если он сильно хочет писать игры, он может использовать готовые движки Юнити или Unreal Engine.
Ага, а потом под текстуры проваливаются. Или пеще какие непредсказуемые перлы с физикой. Да и сюжет так себе )
надо начать что-то делать, а потом, если попадется что-то нужное для изучения, тогда это изучить, имея перед собой конкретную задачу, для которой это надо