Вообще очевидно, что если их код зависит от буста, то буст-библиотеки должны быть в системе при компиляции проекта и сборке пакета. И эти библиотеки (если они shared) должны распространяться вместе с бинарным wheel-пакетом. Они же используют конкретную версию boost, у них в cmakelists прописана 1.58.0.
boost python давно пора выбросить на свалку и использовать pybind11, тем более у них указано, что они используют 11 стандарт (
CMAKE_CXX_STANDARD 11
) . Код будет чище и красивее.
Вообще с бустом можно линковаться статически кстати, тогда и библиотеки класть в wheel не нужно будет. в том числе с boost python
https://www.boost.org/doc/libs/1_61_0/libs/python/doc/html/building/choosing_a_boost_python_library_.html