Size: a a a

2020 July 29

ВК

Вадим Князев... in Data Engineers
Anton Zadorozhniy
Например какой-то опс сделает hdfs -rm -skipTrash, посмотрим как ваша репликация защитит от этого)
оо, это про меня)
источник

N

Nikita Blagodarnyy in Data Engineers
Anton Zadorozhniy
Например какой-то опс сделает hdfs -rm -skipTrash, посмотрим как ваша репликация защитит от этого)
не, ну если исходить из того, что персонал с доступом на такие операции слабоумен чуть более, чем полностью, или имеет злой умысел, то ничего не спасет, он и бэкапы может вынести.
источник

Д

Дмитрий in Data Engineers
Вадим Князев
Привет, я с тупым вопросом, есть кластер hadoop на hdp, поделитесь, пожалуйста, маном, как хайв забэкапить?
Если будешь отдельно копировать бд метастора, а затем hdfs, получишь разбег данных, мы это уже проходили. Локтикусали сильно .... сейчас делаем export table  и копирование hdfs, но нам это надо при переезде на другой кластер.
источник

N

Nikita Blagodarnyy in Data Engineers
и sudo -u root rm -rf / в ansible выполнить
источник

AZ

Anton Zadorozhniy in Data Engineers
Nikita Blagodarnyy
не, ну если исходить из того, что персонал с доступом на такие операции слабоумен чуть более, чем полностью, или имеет злой умысел, то ничего не спасет, он и бэкапы может вынести.
Действительно, это надежный способ защититься, сказать опсам «надо лучше стараться»
источник

AZ

Anton Zadorozhniy in Data Engineers
На моем опыте даже в очень зрелых командах такие ошибки случаются
источник

AZ

Anton Zadorozhniy in Data Engineers
И бэкап конечно не спасение, а митигация, если админ случайно промахнулся с путём то бэкап поможет
источник

Д

Дмитрий in Data Engineers
Anton Zadorozhniy
На моем опыте даже в очень зрелых командах такие ошибки случаются
Нормальный бэкап на ленту, и нормальные регламенты спасают ....
источник

N

Nikita Blagodarnyy in Data Engineers
Anton Zadorozhniy
Действительно, это надежный способ защититься, сказать опсам «надо лучше стараться»
Зачем кому-то что-то говорить, есть Ranger с настроенными политиками доступа и детальным логированием, есть CyberArk и Wallix, есть в конце концов разделение паролей пополам.
источник

AZ

Anton Zadorozhniy in Data Engineers
Дмитрий
Нормальный бэкап на ленту, и нормальные регламенты спасают ....
100% дюрабилити никто не гарантирует
источник

Д

Дмитрий in Data Engineers
Anton Zadorozhniy
100% дюрабилити никто не гарантирует
99,999 реально.
источник

Д

Дмитрий in Data Engineers
Но дорого ....
источник

Д

Дмитрий in Data Engineers
Работал в свое время с 4 экзадатами и 2 либами, с 1,3 pb данными.
источник

Д

Дмитрий in Data Engineers
Средним падованом скрипты рмана писал 🤣
источник

AZ

Anton Zadorozhniy in Data Engineers
Nikita Blagodarnyy
Зачем кому-то что-то говорить, есть Ranger с настроенными политиками доступа и детальным логированием, есть CyberArk и Wallix, есть в конце концов разделение паролей пополам.
Мы про разные ошибки говорим, я говорю про косяк процесса удаления данных - у него заранее есть все политики
источник

AZ

Anton Zadorozhniy in Data Engineers
Дмитрий
Работал в свое время с 4 экзадатами и 2 либами, с 1,3 pb данными.
Коллега, тогда вы знаете про битрот, шушайнинг и прочие прелести... события с малой вероятностью происходят каждый день
источник

N

Nikita Blagodarnyy in Data Engineers
Anton Zadorozhniy
Мы про разные ошибки говорим, я говорю про косяк процесса удаления данных - у него заранее есть все политики
и я про то же примерно. пароль учетной записи, которая может удалить все записи, не должен быть известен одному человеку. а скрипты, которые от нее выполняются, должны пройти валидацию несколькими людьми, как справедливо отмечал @workales
источник

AZ

Anton Zadorozhniy in Data Engineers
Nikita Blagodarnyy
и я про то же примерно. пароль учетной записи, которая может удалить все записи, не должен быть известен одному человеку. а скрипты, которые от нее выполняются, должны пройти валидацию несколькими людьми, как справедливо отмечал @workales
Я про это вам и написал, решение в духе «надо лучше стараться»
источник

Д

Дмитрий in Data Engineers
Anton Zadorozhniy
Коллега, тогда вы знаете про битрот, шушайнинг и прочие прелести... события с малой вероятностью происходят каждый день
Для этого и 4 экзадаты одна из них примари в adg, эх как я соскучился по хорошему ораклу, с этой бигдатой 😎
источник

AZ

Anton Zadorozhniy in Data Engineers
Это все нужно и правильно, и работает, ровно до того момента когда перестаёт
источник