Size: a a a

2019 November 26

N

Nata in Data Engineers
Uncel Duk
потом импортнуть чекпоинты
ну чет нет, сняла с актива fsimage, закинула в чекпойнт дир, стартанула с флагом чекпойнта с консоли, а оно с той же ошибкой упало :C
источник

N

Nata in Data Engineers
о, но вдруг появилась кнопка ENABLE HA O___O
источник

P

Pavel in Data Engineers
Anton Zadorozhniy
Я недавно узнал что под S3 в русскоязычном сообществе понимают и Ceph с Minio, вас интересует миграция именно на Amazon S3?
миграция на MCS либо я.облако, под капотом у которых, возможно Ceph
источник

UD

Uncel Duk in Data Engineers
Nata
ну чет нет, сняла с актива fsimage, закинула в чекпойнт дир, стартанула с флагом чекпойнта с консоли, а оно с той же ошибкой упало :C
возможно там абмарь добавил в конфиг dfs.namenode.secondary
источник

UD

Uncel Duk in Data Engineers
и в журналах (zk) старая торчала, но вы вроде грохнули курлом
источник

P

Pavel in Data Engineers
Рамиль Ахмадеев
мы спарк гоняли и флинк, спарк так себе живет с этим, надо много работать напильником. флинк - показал себя в кубе отлично
подскажите, какая конфигурация флинк кластера?
источник

РА

Рамиль Ахмадеев in Data Engineers
один мастер 2 воркера
источник

РА

Рамиль Ахмадеев in Data Engineers
если вопрос про это
источник

P

Pavel in Data Engineers
Рамиль Ахмадеев
один мастер 2 воркера
session/job cluster?
источник

РА

Рамиль Ахмадеев in Data Engineers
мы и так и так пробовали
источник

РА

Рамиль Ахмадеев in Data Engineers
доя кубера как мы решили job cluster лучше подходит с точки зрения деплоя
источник

P

Pavel in Data Engineers
без ZK, полагаю?
источник

P

Pavel in Data Engineers
и без hdfs
источник

P

Pavel in Data Engineers
для чекпойнтов
источник

AZ

Anton Zadorozhniy in Data Engineers
Pavel
миграция на MCS либо я.облако, под капотом у которых, возможно Ceph
Тут наверное надо спрашивать именно пользователей MCS, каждая реализация S3 немножко отличается от другой)
источник

РА

Рамиль Ахмадеев in Data Engineers
Pavel
для чекпойнтов
на сеф складывали
источник

P

Pavel in Data Engineers
Рамиль Ахмадеев
на сеф складывали
спасибо
источник

РА

Рамиль Ахмадеев in Data Engineers
зк вроде реально не было
источник

РА

Рамиль Ахмадеев in Data Engineers
но особирались прикрутить, потом просто проект зачах по причинам от нас не зависящих, ну и собственно не успели довести его (флинк) до полного продакшина
источник

N

Nata in Data Engineers
Uncel Duk
возможно там абмарь добавил в конфиг dfs.namenode.secondary
ну вот короче после пробы запуска с чекпойнтом появилась кнопа enable HA, если указывать только мастера nn, то можно даже войти в safe mode. но требуется полная остановка HDFS 🥶 🙈
источник