CC
вот чтобы точно совпало пусть в плюсах будет дабл, а в питоне дефолтный флоат
Size: a a a
2020 October 27
IL
Вот и я не знаю, либо exp неправильно считает(я сравнивал тестовый пример, там на 7 знаке лишь на единичку отличалось), либо умножение в итоге плохо работает
p
не ну если ты про это! в общем я понял у компании была! на уровне?
CC
Вот и я не знаю, либо exp неправильно считает(я сравнивал тестовый пример, там на 7 знаке лишь на единичку отличалось), либо умножение в итоге плохо работает
Ну ты используешь разные по точности типы и удивляешься разному результату
IL
Ну ты используешь разные по точности типы и удивляешься разному результату
так почему разные?
float32 и float, они должны быть одинаковыми
float32 и float, они должны быть одинаковыми
CC
так почему разные?
float32 и float, они должны быть одинаковыми
float32 и float, они должны быть одинаковыми
нет
p
нет конечно наверное.
IL
хмм
IL
ладно, ща глянем
CC
У тебя же 64битная виртуальная машина
IL
у питона ты имеешь в виду?
CC
Скорее всего твоя реализация питоновской виртуальной машины 64битная да
CC
Ну попробуй разные варианты
CC
я практически уверен что на обычном float у тебя все будет гуд
IL
хм, можно будет глянуть
IL
бинго, кажется есть
IL
box_deltas = box_deltas.astype(np.float, copy=False)
сделал вот так и совпадает точность
сделал вот так и совпадает точность
IL
из этого массива "вырезаются" dw и dh
IL
ну и в С++ переделал на double