Мне кажется там уже деление на 0 идёт дальше
вроде да, после 0FFFFFFFFh inc ebx дает 0, это решаемо если использовать rbx, тогда максимальное число будет немного больше.
но для больших чисел точности флоата не будет хватать, надо писать еще процедуру для вывода флоата с произвольно заданным числом цифр после запятой