FO
честно - не знаю.
Size: a a a
2020 May 16
FO
у меня где-то бага есть во вторых производных...
FO
и я не понимаю - она численная или я криворукий
KK
400 страниц a4 формула 12 шрифтом - это порядка 400к операций
FO
причем на численную оно не похоже. я могу построить функционал коррекции
KK
Ну в общем зная, как улетают даблы в задницу, мне сложно представить чтоб 400к операций со всякими экспонентами хоть как-то могло работать
FO
вроде работает
FO
ну у меня обычно расхождение в 1e-18 по сравнению с нормальными имплементациями
KK
1e-18 расхождение у тебя на доп умножении будет)
FO
12 знаков точности сохранятся, в общем-то
KK
@webreh такое возможно?
CD
KK
Смотри, 400к операций с даблами, в том числе и возведения в степень, и всякие erf
CD
да вроде должно в секунду
KK
Не, я про точность сомневаюсь
KK
Что там не улетит
FO
KK
Анрил
FO
ну сам видишь
KK
У меня тут от 100 операций на 1e-5 улетело