OM
но вообще лучше decimal, да
Size: a a a
2021 January 10
OM
там вообще нет кейса отбрасывания и округления
AS
Сколько знаков надо отображать?
С
G17
вот это кстати работает)
OM
ну в документации и написано, что должно работать
А
G17
Да, круто, заработало)
JS
для 1 мантисса=0, экспонента=127
2е-127 это эпсилон децимала?
AH
А как тогда вообще работают программы в которых нужна большая точность вычислений?
Вот в хачкеле можно иметь рациональные числа идеальной точности.
А можно флоаты любой точности. Типа флоат1024
А можно флоаты любой точности. Типа флоат1024
AH
Ну обычный флоаты даблы понятно
AK
А как тогда вообще работают программы в которых нужна большая точность вычислений?
А для чего гипотетически может быть нужна такая точность? Разве что число пи до миллиардных знаков считать - но там это, конечно, с помощью особого итеративного алгоритма делается и дроби не участвуют
AK
А вообще кажется, что с классом Convert что-то не то, ибо вот попытка конвертирования в decimal
С классом Convert все то - ты вместо сконвертированного значения kpdd вывел оригинальное kpd