Size: a a a

2020 August 12

SS

Sergey Sheremeta in Data Engineers
да, наверное ты прав. проще всего сваливать в карантин
источник

SS

Sergey Sheremeta in Data Engineers
а гобблин из коробки такое умеет?
источник

S

Stanislav in Data Engineers
Да, но он пришпилен к авро вроде со всех сторон
Проще написать свой аналог
источник

SS

Sergey Sheremeta in Data Engineers
источник
2020 August 13

A

Alex in Data Engineers
Привет! А данные из AWS Glacier можно получать в Спарке на AWS EMR без каких-то ручных дополнительных шагов по их выкачиванию сначала на S3?
источник

T

T in Data Engineers
Если мне не изменяет память то нет
источник

AZ

Anton Zadorozhniy in Data Engineers
Alex
Привет! А данные из AWS Glacier можно получать в Спарке на AWS EMR без каких-то ручных дополнительных шагов по их выкачиванию сначала на S3?
надо сначала восстановить (может занимать продолжительное время, в зависимости от метода рекавери, 3-5 или 5-12 часов)
источник

A

Alex in Data Engineers
восстановить имеется ввиду к примеру в S3?
источник

AZ

Anton Zadorozhniy in Data Engineers
не к примеру, а только в S3
источник

A

Alex in Data Engineers
понял, спасибо!
источник

AZ

Anton Zadorozhniy in Data Engineers
там есть три retrieval режима, стандартный, балк и ускоренный, у каждого свои показатели
источник

A

Alex in Data Engineers
понял. по деньгам там значительно дешевле получается держать файлы чем в S3? Есть смысл заморачиваться?
источник

AZ

Anton Zadorozhniy in Data Engineers
если у вас подходящий формат можно попробовать S3 Glacier Select, это запросы к данным без стейджинга в S3
источник

AZ

Anton Zadorozhniy in Data Engineers
все зависит от того сколько данных, как часто обращаетесь (если вообще обращаетесь)
источник

AZ

Anton Zadorozhniy in Data Engineers
например я для личных данных держу там второй оффсайт бэкап, и восстанавливать оттуда буду если совсем-совсем все плохо, тогда я готов любые деньги заплатить буду
источник

A

Alex in Data Engineers
данных где-то 1ТБ пока, обращаемся к ним не очень часто.. раз в месяц к примеру
источник

AZ

Anton Zadorozhniy in Data Engineers
1PB?
источник

AZ

Anton Zadorozhniy in Data Engineers
1TB это 30 баксов, сколько вы хотите сэкономить
источник

A

Alex in Data Engineers
это пристрелка на будущее, это в дев режиме у нас 1TB
источник

A

Alex in Data Engineers
я к своему стыду, только вчера про Glacier узнал
источник