Size: a a a

2020 September 29

AB

Andrey Bel in Data Engineers
Gaurav Sharma
i see., so , every1 here is a pro data engineer, cool., im also learning about data engineering/mining/cleaning and preprocessiong. , im not gud at all., but i look forward to learn ., hope no1 mind
cool! you would learn it by English?
источник

GS

Gaurav Sharma in Data Engineers
yeaa
источник

GP

Grigory Pomadchin in Data Engineers
Andrey Bel
а по схеме можно генерить из шейплеса?
авро4с генерит схему на основе кейс классов; если у тебя схема есть то ее генерировать уже не надо
источник

AB

Andrey Bel in Data Engineers
Grigory Pomadchin
авро4с генерит схему на основе кейс классов; если у тебя схема есть то ее генерировать уже не надо
у меня кейс классы  кладуться в шейплесс массив и из них создается GenericRecord который потом пишется на хадуп через AvroSchema[AvroRecordCAseClass]
источник

AB

Andrey Bel in Data Engineers
те мне этот дженерик рекорд писать исопльзуя схему правильно понял?
источник

GP

Grigory Pomadchin in Data Engineers
да
источник

AB

Andrey Bel in Data Engineers
Grigory Pomadchin
ну вроде сейчас датасорс апи больше популярно что для записи что для чтения))
и еще момент насчет датасорс
источник

AB

Andrey Bel in Data Engineers
что это за апи где глянуть?
источник

GP

Grigory Pomadchin in Data Engineers
Andrey Bel
у меня кейс классы  кладуться в шейплесс массив и из них создается GenericRecord который потом пишется на хадуп через AvroSchema[AvroRecordCAseClass]
интересно, шейплесс массив? хлист может?
источник

AB

Andrey Bel in Data Engineers
Grigory Pomadchin
интересно, шейплесс массив? хлист может?
ну да
источник

GP

Grigory Pomadchin in Data Engineers
Andrey Bel
что это за апи где глянуть?
источник

GP

Grigory Pomadchin in Data Engineers
Andrey Bel
ну да
это гетерогенный список все же, не массив
источник

AB

Andrey Bel in Data Engineers
Grigory Pomadchin
интересно, шейплесс массив? хлист может?
через :+ 😂
источник

AB

Andrey Bel in Data Engineers
Andrey Bel
через :+ 😂
юезх рожи не получилоь))
источник

GP

Grigory Pomadchin in Data Engineers
это копродукт
источник

AB

Andrey Bel in Data Engineers
Grigory Pomadchin
это гетерогенный список все же, не массив
ок я не спорю! точнее так - у меня массив шейплесов!
источник

AB

Andrey Bel in Data Engineers
Grigory Pomadchin
это копродукт
да через него
источник

РА

Рамиль Ахмадеев... in Data Engineers
чат, а подскажите, есть ли какие то тулы для конструирования запросов через Web UI, а-ля NiFi, только SQL (HiveQL) query builder?
источник

АЖ

Андрей Жуков... in Data Engineers
Рамиль Ахмадеев
чат, а подскажите, есть ли какие то тулы для конструирования запросов через Web UI, а-ля NiFi, только SQL (HiveQL) query builder?
это типа Web IDE с подсказками?
источник

M

Mironiken in Data Engineers
Аля Jupiter?
источник