CC
float precision и интероп это боль, да(
Size: a a a
2020 October 27
CC
Хорошо, что помогло
IL
Я правда не до конца понимаю откуда вообще тут в коде взялся np.float ибо я не нашел на сайте нормального описания
I
а почему нет? 32 бита и в африке 32 бита
CC
Я правда не до конца понимаю откуда вообще тут в коде взялся np.float ибо я не нашел на сайте нормального описания
np.float это по факту адаптер обычного питоновского флоата
CC
а почему нет? 32 бита и в африке 32 бита
потому что float может быть и не 32 бита
I
так у него float32
CC
а float32 обязан быть 32 бита
CC
А нужно было 64)
I
ну, у Ильяи флоат32 же
CC
но нужен был ему 64
I
почему?
I
если в плюсах тоже 32 бита было
CC
Как я понял у него и в плюсах даблы были
IL
пока что в плюсах 64 бита и в питоне 64 бита решило проблему
IL
сейчас я буду думать что это значит для меня вообще
CC
IL
главное я нашел сочетание точностей при котором это работает
CC
Я думаю Ваня говорит что тебе мб такая точность оверкилл
CC
а выжирает в 2 раза больше памяти