Size: a a a

2020 October 30

АЖ

Андрей Жуков... in Data Engineers
источник

EL

Evgeny Linnik in Data Engineers
Андей, ты же S3 со Спарком дружил же? У вас такой-же конфиг... Помоги брату по оружию )
источник

АЖ

Андрей Жуков... in Data Engineers
дык я свой показывал как раз
источник

АЖ

Андрей Жуков... in Data Engineers
у меня в минио и многобакетные конфиги завелись без какой-то магии
источник

АЖ

Андрей Жуков... in Data Engineers
и даже всякие мультиэндпоинты
источник

AP

Anton Pilipenko in Data Engineers
Anton Pilipenko
короче получилось только так:
sc.hadoopConfiguration.set("fs.s3a.endpoint", "
sc.hadoopConfiguration.set("fs.s3a.access.key",
sc.hadoopConfiguration.set("fs.s3a.secret.key",


ща прочекаю что там с версиями тоже отпишусь
вот именно эти параметры надо было выставить. То, что Андрей предлагал не прокатило. Не спрашивай почему так.
источник

AZ

Anton Zadorozhniy in Data Engineers
Lookuut Struchkov
Коллеги на каком ЯП вы продуктивизируете ваши МЛ модели?
Модели на том на котором написаны, а вот пайплайны для фич на том что доступно, SQL или jvm языки поверх спарка
источник

LS

Lookuut Struchkov in Data Engineers
Anton Zadorozhniy
Модели на том на котором написаны, а вот пайплайны для фич на том что доступно, SQL или jvm языки поверх спарка
То есть python в основном ?
источник

AZ

Anton Zadorozhniy in Data Engineers
Lookuut Struchkov
То есть python в основном ?
Ну если у клиента все на R - то R; у нас Фреймворк агностичен по отношению к языкам
источник

LS

Lookuut Struchkov in Data Engineers
Anton Zadorozhniy
Ну если у клиента все на R - то R; у нас Фреймворк агностичен по отношению к языкам
А на чем он?
источник

AZ

Anton Zadorozhniy in Data Engineers
Lookuut Struchkov
А на чем он?
Оркестрации и метаданные просто спрингбутовый сервис, а для каждого языка свой биндинг который общается с фреймворком через рест и переменные окружения
источник

AZ

Anton Zadorozhniy in Data Engineers
А, ну и код в гите лежит, Фреймворк просто следит за гитом
источник

LS

Lookuut Struchkov in Data Engineers
Anton Zadorozhniy
Оркестрации и метаданные просто спрингбутовый сервис, а для каждого языка свой биндинг который общается с фреймворком через рест и переменные окружения
А есть где нибудь описание вашего подхода ?
источник

AZ

Anton Zadorozhniy in Data Engineers
Lookuut Struchkov
А есть где нибудь описание вашего подхода ?
Про методологию я рассказывал на прошлом хайлоаде, а если ваша компания клиент Терадаты - спросите свой контакт про AnalyticOps
источник

AP

Anton Pilipenko in Data Engineers
народ, а кого нить выгнало из чатика по гринпламу?
источник

AP

Anton Pilipenko in Data Engineers
пришел пуш, открыл его - тут же написали типа частная группа иди отсудова и закрылось все
источник

DT

Dmitry Titov in Data Engineers
источник

AP

Anton Pilipenko in Data Engineers
ага
источник

DT

Dmitry Titov in Data Engineers
Да, нет вроде все работает
источник

AP

Anton Pilipenko in Data Engineers
Dmitry Titov
Да, нет вроде все работает
Как то вот
источник