Size: a a a

2021 September 16

VS

Vladislav 👻 Shishkov... in Data Engineers
но все равно
источник

AZ

Anton Zadorozhniy in Data Engineers
Даже без уточнения деталей - голанг (только если вы не пишете и не поддерживаете тонну раст кода)
источник

AZ

Anton Zadorozhniy in Data Engineers
Раст не простой язык
источник

AZ

Anton Zadorozhniy in Data Engineers
А голанг как раз дизайнился чтобы любой питонист или даже дата инженер мог выдавать не ужасный код довольно быстро
источник

KS

K S in Data Engineers
Unmarshalling слегка выносит мозг.
источник

AZ

Anton Zadorozhniy in Data Engineers
Так вы собираетесь брать данные в память и что-то там делать? Опишите пример процесса
источник

GB

Gennadiy Bbb in Data Engineers
всем привет! Кто-нибудь знает как в DBEaver выставлять параметр памяти для Impala запросов?
источник

KS

K S in Data Engineers
Ну скажем data enrichment, поступает батч данных 10 МБ, его надо соединить с другим примерно таким же и отправить дальше потребителям.
источник

AE

Alexey Evdokimov in Data Engineers
голанг, как бы помягче сказать, слегка дебильноват по дизайну
источник

AZ

Anton Zadorozhniy in Data Engineers
Почему не в базе?
источник

AE

Alexey Evdokimov in Data Engineers
простота хороша, пока она не в ущерб выразительности
источник

KS

K S in Data Engineers
Так тоже можно, но народ хочет писать код с минимальными запросами к бд
источник

AZ

Anton Zadorozhniy in Data Engineers
почему?
источник

AZ

Anton Zadorozhniy in Data Engineers
то есть вы считаете что вы для проекта напишете алгоритмы быстрее и лучше чем люди у которых буквально такая работа?
источник

AZ

Anton Zadorozhniy in Data Engineers
единственное исключение - если у вас очень нестандартные алгоритмы
источник

KS

K S in Data Engineers
Если часто меняются схемы, то у наших соседей, которые решили писать свои пайплайны на golang, начинаются головные боли, поэтому на любые наши инновации они реагируют очень болезненно.
источник

AZ

Anton Zadorozhniy in Data Engineers
вы наверное протобафом обмениваетесь, договоритесь про схему?
источник

AZ

Anton Zadorozhniy in Data Engineers
шаблону tolerant reader наверное столько же лет сколько мне, вам про него не рассказывали?
источник

KS

K S in Data Engineers
Это не от нас зависит, к нам поступают данные, где могут слегка поменять схему. У нас на pyspark всё довольно таки гибко и быстро, у соседей на golang паника.
источник

AZ

Anton Zadorozhniy in Data Engineers
ну, это называется business opportunity для определенных людей)
источник