Size: a a a

2019 November 26

VE

Vladimir E. in Data Engineers
Но вот проблема с кноксом возникает. Если напрямую открывать порт в обход кнокса, то кастомеру это может не понравится
источник

VE

Vladimir E. in Data Engineers
Alex
вообще он рест пробрасывает зачастую, а внутри не обязательно даже json иметь

knox webhdfs gateway полностью проксирует webhdfs, поэтому json там нету
Так webhdfs и есть Json rest api
источник

VE

Vladimir E. in Data Engineers
Он его пробрасывает конечно
источник

VE

Vladimir E. in Data Engineers
Но там все равно всякие реврайты делает
источник

AZ

Anton Zadorozhniy in Data Engineers
Vladimir E.
Но вот проблема с кноксом возникает. Если напрямую открывать порт в обход кнокса, то кастомеру это может не понравится
Делайте второй контур безопасности для дата сервисов над ноксом, но это для параноидальных ребят, так весь перфоманс и масштабируемость теряется; мы обычно держим кубер на эджах (ну или сворм если для бедных ) как раз для дата сервисов с доменным апи
источник

VE

Vladimir E. in Data Engineers
У нас то конечно свой уровень безопасности есть, но биг дата командам не объяснишь этого, у них правило - вся коммуникация через кнокс
источник

VE

Vladimir E. in Data Engineers
И кубер у вас не за кноксом?
источник

VE

Vladimir E. in Data Engineers
Как там аутентификация проходит?
источник

VE

Vladimir E. in Data Engineers
У нас просто с тобой разный уровень доступа к клиенту, мыж приезжаем на недельку, ставим свой софт, показываем его, и уезжаем
источник

VE

Vladimir E. in Data Engineers
Ради нас никто ничего менять не хочет
источник

AZ

Anton Zadorozhniy in Data Engineers
Vladimir E.
И кубер у вас не за кноксом?
Нет, иначе в нокс все упрется
источник

AZ

Anton Zadorozhniy in Data Engineers
Vladimir E.
Как там аутентификация проходит?
Зависит от сервиса, где то в сервисе самом, где-то на ингресе
источник

AZ

Anton Zadorozhniy in Data Engineers
Дата сервисы же отличаются от всяких JDBC, там пользователи заранее известны, можно хоть сертификатом аутентифицировать
источник

AZ

Anton Zadorozhniy in Data Engineers
Vladimir E.
У нас просто с тобой разный уровень доступа к клиенту, мыж приезжаем на недельку, ставим свой софт, показываем его, и уезжаем
Тогда странно что выбрали grpc, я бы делал restful и честно интегрировался в нокс
источник

VE

Vladimir E. in Data Engineers
customer requirements. Сложно спорить с data governance командой, есть прямой запрос на интеграцию с кноксом по которому оценивают вендоров. Да и для существующих заказчиков сложно будет объяснить что раньше сапортили а теперь нет.
По grpc, у нас же просто модулей 10 разных, сейчас переписываем много вещей и делаем унификацию всего и везде.
источник

VE

Vladimir E. in Data Engineers
большинство этих модулей вообще не связаны с биг датой
источник

VE

Vladimir E. in Data Engineers
Если кнокс всё таки grpc не поддерживают, видимо будем всё таки json делать как второй слой
источник

VE

Vladimir E. in Data Engineers
но надо обдумать это всё
источник

AZ

Anton Zadorozhniy in Data Engineers
Нокс не поддерживает бинарные протоколы, только текстовые
источник

AZ

Anton Zadorozhniy in Data Engineers
Вы же эти сервисы тоже поди не стендэлоун делаете, где-то надо толкать, так что просите кубер рядом , а если заказчик хочет тормозов - ходите к хадупу через нокс
источник