Size: a a a

2019 November 19

AB

Andrey Bel in Data Engineers
Можно конечно и самому многое освоить не кто не спорит просто уйдёт больше времени
источник

AB

Andrey Bel in Data Engineers
Тут как всегда вопрос времени/денег
источник

AB

Andrey Bel in Data Engineers
И то какие начальные знания, опыт, ожидания по зп
источник

AB

Andrey Bel in Data Engineers
Плюс опыт на скала, джава, питон
источник

AE

Alexey Evdokimov in Data Engineers
Andrey Bel
По своему опыту трудоустройства, а он у меня большой и просмотров вакансий часто видел Интерес к биг дате, и курсы это подтверждают, что вы не просто языком чешите
о, смотрите, джоб хоппер
источник

AB

Andrey Bel in Data Engineers
Alexey Evdokimov
о, смотрите, джоб хоппер
Да есть такой момент, без приколов, за меньше чем два года думаю о пятой работе
источник

AE

Alexey Evdokimov in Data Engineers
пц
источник

AB

Andrey Bel in Data Engineers
Зато Зп вырасло оч прилично и стек технологий
источник

AE

Alexey Evdokimov in Data Engineers
чтобы нормально врубиться в бигдатый стек на развитом проекте, минимум полгода надо
источник

AE

Alexey Evdokimov in Data Engineers
что можно успеть разобрать in depth за меньшее время я вообще не знаю
источник

AB

Andrey Bel in Data Engineers
Я не спорю
источник

M

Mi in Data Engineers
Нормально так набросил))
источник

AB

Andrey Bel in Data Engineers
Я имею ввиду весь опыт, начиная с джава веб
источник

Ж

Жмака in Data Engineers
Кто то удачно копировал снэпшот hbase с HDP на  EMR?  Джоб отрабатывает, а снэпшота на  EMRе  нет. Emrfs sync делал... 🤔
источник

Ж

Жмака in Data Engineers
sudo -u hbase hbase org.apache.hadoop.hbase.snapshot.ExportSnapshot \
   -D fs.s3.awsAccessKeyId="..." \
   -D fs.s3.awsSecretAccessKey="..." \
   -D hbase.rootdir=s3://.../rootdir \
   -snapshot emp_snapshot \
   -copy-from hdfs://...:8020/apps/hbase/data \
   -copy-to s3://.../rootdir \
   -overwrite \
   -mappers 32 \
   -bandwidth 200
источник

Ik

Ilia ksen in Data Engineers
Привет, ребята как ограничить разворот df.groupby('id').pivot('axisNum')
Допустим максимальное значение может быть axisNum = 64, а мне развернуть надо только до 8?
источник

AS

Anton Shelin in Data Engineers
Ilia ksen
Привет, ребята как ограничить разворот df.groupby('id').pivot('axisNum')
Допустим максимальное значение может быть axisNum = 64, а мне развернуть надо только до 8?
что значит axisNum? и что за разворот?
источник

AS

Anton Shelin in Data Engineers
имеете в виду чтоб взять значения из axisNum как колонки и ограничить количество колонок?
источник

AS

Anton Shelin in Data Engineers
можно перед пивотом тогда сделать filter(col("axisNum")<9)
источник

Ik

Ilia ksen in Data Engineers
Anton Shelin
имеете в виду чтоб взять значения из axisNum как колонки и ограничить количество колонок?
Да имею ввиду это
источник