Size: a a a

2019 December 16

ME

Max Efremov in Data Engineers
Vladimir Zenin
Кстати кто использует докер на винде, особых проблем нет?
с виртуалбоксом конфликтует, я забил
источник

N

Nikita Blagodarnyy in Data Engineers
На докер? Или на винду?
источник

ME

Max Efremov in Data Engineers
На докер)
источник

ME

Max Efremov in Data Engineers
Юзаю вагрант, который поднимает мне виртуалку и там контейнеры запускает
источник

ME

Max Efremov in Data Engineers
точнее, контейнеры ансибрюлом запускаются, вагрант не умеет сразу несколько запускать(
источник

M

Mironiken in Data Engineers
Коллеги поделитесь, как вы юнит тесты со спарком запускаете? Как сделать так, чтобы контекст со спарком заводился один раз?
источник

AE

Alexey Evdokimov in Data Engineers
отдельным тредом поднимать. но вы не делайте так, это нехорошо.
источник

AP

Alexander Piminov in Data Engineers
Mironiken
Коллеги поделитесь, как вы юнит тесты со спарком запускаете? Как сделать так, чтобы контекст со спарком заводился один раз?
Можешь попробовать SharedSparkSession / SharedSparkContext из юнитов самого Spark, @invade_r более подробно рассказывал на Moscow Spark#9 http://bit.ly/moscow_spark_slides, если готов положиться на их реализацию.
источник

GP

Grigory Pomadchin in Data Engineers
Mironiken
Коллеги поделитесь, как вы юнит тесты со спарком запускаете? Как сделать так, чтобы контекст со спарком заводился один раз?
SparkSession.builder().config(conf).getOrCreate() если не хочется делать как было рассказано на москоуспарке
источник

GP

Grigory Pomadchin in Data Engineers
т.е. откроется сессия на первом спарк тесте; а зкроется на килле жвм
все прмоежуточные будут конечно же попадать в гет клоз
источник

AE

Alexey Evdokimov in Data Engineers
вопрос а зачем нужен грязный контекст. юнит тест на то и юнит, что проверяет нечто без внешних факторов.
источник
2019 December 17

TZ

Timur Zalimov in Data Engineers
Коллеги, добрый день =)
У кого был опыт забора данных из ms sql server 8 (2000) при помощи nifi
Древняя база данных - перепробовал 5 видов драйверов но так и не смог подконектиться (((
Более менее есть коннект через jtds, но вылетает ошибка failed to process session due to null ((((
источник

AK

Alena Korogodova in Data Engineers
источник

AK

Alena Korogodova in Data Engineers
Это была ссылка для Тимура, но что народ попёр в найфайный чатик - довольно прикольно)
источник

AB

Anton Balagaev in Data Engineers
Timur Zalimov
Коллеги, добрый день =)
У кого был опыт забора данных из ms sql server 8 (2000) при помощи nifi
Древняя база данных - перепробовал 5 видов драйверов но так и не смог подконектиться (((
Более менее есть коннект через jtds, но вылетает ошибка failed to process session due to null ((((
Мне кажется там с любой интеграцией будут проблемы. Насколько помню решал вопрос так: формировал csv-выгрузки с помощью dts-пакетов, и результат уже забирал из файлов.
источник

K

KrivdaTheTriewe in Data Engineers
ребят,кто из терадаты геометрию гонял скупом, как правильно настроить маппинг полей?  чтобы хотя бы как текст было
источник

K

KrivdaTheTriewe in Data Engineers
@dartov скажипожалуйста, есть нормальный маппинг для геоданных или нужно изворачиваться с вьюхой в самой терадате?
источник

AZ

Anton Zadorozhniy in Data Engineers
KrivdaTheTriewe
@dartov скажипожалуйста, есть нормальный маппинг для геоданных или нужно изворачиваться с вьюхой в самой терадате?
Geospatial тип? Он пока не поддерживается TDCH, но если вы напишите мне в дм имя клиента то я смогу как следует пнуть того кто рулит бэклогом..
источник

K

KrivdaTheTriewe in Data Engineers
st_geometry
источник

AZ

Anton Zadorozhniy in Data Engineers
Ну да, оно
источник