Size: a a a

Обсуждения техдирские

2019 July 04

К

Кабак уровня /b/ in Обсуждения техдирские
Иван Повстен
тут такое дело. ETL из базы в базу дело НЕБЫСТРОЕ
Што такое етл?
источник

AS

Andrey Shetukhin in Обсуждения техдирские
Иван Повстен
ты предлагаешь реплику со слейва?
Я вообще не вижу проблем в репликации со слейва для аналитики. Она по определению не есть рантайм-задача, а это значит, что отставание в репликации не играет серьёзной роли (ну, если только оно не в часах измеряется).
источник

AS

Andrey Shetukhin in Обсуждения техдирские
Extract, Transform, Load.
источник

СХ

Старый Хрыч in Обсуждения техдирские
Иван Повстен
смотри в чем беда - у тебя ETL на выгрузку очень сильно нагружает БД
так не проще в спарк етл перенести?
источник

Ms

Mutko says in Обсуждения техдирские
xargs жэ
источник

К

Кабак уровня /b/ in Обсуждения техдирские
Старый Хрыч
так не проще в спарк етл перенести?
Зочем?
источник

К

Кабак уровня /b/ in Обсуждения техдирские
А тогда ладно
источник

ИП

Иван Повстен in Обсуждения техдирские
Andrey Shetukhin
Я вообще не вижу проблем в репликации со слейва для аналитики. Она по определению не есть рантайм-задача, а это значит, что отставание в репликации не играет серьёзной роли (ну, если только оно не в часах измеряется).
смотри, с чем я сталкивался - ETL очень сильно грузит что мастер, что слейв.  Его можно осуществлять только в ночное технологическое окно.  И на больших обьемах у вас не хватает окна
источник

К

Кабак уровня /b/ in Обсуждения техдирские
Иван Повстен
смотри, с чем я сталкивался - ETL очень сильно грузит что мастер, что слейв.  Его можно осуществлять только в ночное технологическое окно.  И на больших обьемах у вас не хватает окна
Мастер слейв же
источник

К

Кабак уровня /b/ in Обсуждения техдирские
И все
источник

ИП

Иван Повстен in Обсуждения техдирские
потом как завершлась выгруза, началась загрузка, потом строится куб
источник

AS

Andrey Shetukhin in Обсуждения техдирские
Иван Повстен
смотри, с чем я сталкивался - ETL очень сильно грузит что мастер, что слейв.  Его можно осуществлять только в ночное технологическое окно.  И на больших обьемах у вас не хватает окна
Если у вас не хватает окна, и вы живёте на Одном Большом Сервере, у вас проблемы не с аналитикой, а с проектом вообще
источник

К

Кабак уровня /b/ in Обсуждения техдирские
Читай из слейв базы для оналитики
источник

AS

Andrey Shetukhin in Обсуждения техдирские
Кабак уровня /b/
Читай из слейв базы для оналитики
Ну дык.
источник

СХ

Старый Хрыч in Обсуждения техдирские
затем что ему это проще делать чем mssql, он быстро вытаскивает данные в удобном для mssql oltp? а потом их обрабатывает уже
источник

ИП

Иван Повстен in Обсуждения техдирские
Andrey Shetukhin
Ну дык.
слейв не успевает читать лог и делать etl одновременно!
источник

AS

Andrey Shetukhin in Обсуждения техдирские
Иван Повстен
слейв не успевает читать лог и делать etl одновременно!
А, так это - самая лучшая в мире СУБД MSSQL?
источник

ak

aλ>>=ix>=> kononov in Обсуждения техдирские
Старый Хрыч
затем что ему это проще делать чем mssql, он быстро вытаскивает данные в удобном для mssql oltp? а потом их обрабатывает уже
мсскл прекрасно умеет в олапы
источник

AS

Andrey Shetukhin in Обсуждения техдирские
Ой-ой.
источник

ak

aλ>>=ix>=> kononov in Обсуждения техдирские
реплики достаточно
источник