Size: a a a

2021 October 26

AG

Arsen Gumin in Data Engineers
Просто где граница, если по моему последнему примеру, когда конечная цель это передача файлов другой системе (xml,Json), то это обычная служба/сервис. Но если конечная цель это аналитика этих данных, то это уде аналитическая система. Так?
источник

AE

Alexey Evdokimov in Data Engineers
в аглийской википедии статья про dwh хорошая
источник

AE

Alexey Evdokimov in Data Engineers
начать с неё
источник

AG

Arsen Gumin in Data Engineers
Понял
источник

AG

Arsen Gumin in Data Engineers
Спасибо
источник

AZ

Anton Zadorozhniy in Data Engineers
я обычно три задачи описанные выше ставлю для хранилища, если они решаются в объеме который устраивает пользователей - это работающее хранилище
источник

rG

rpuropuu Greeg'O'Rii... in Data Engineers
По двх в рутубе - Голов Николай и Ермаков Евгений шарят.
источник

AG

Arsen Gumin in Data Engineers
Всем спасибо! Очень много ещё изучать конечно
источник

AE

Alexey Evdokimov in Data Engineers
главное сразу Инмона не бросаться читать, а то очень в дебри сразу будет
источник

AE

Alexey Evdokimov in Data Engineers
хотя кому как, может и норм
источник

AZ

Anton Zadorozhniy in Data Engineers
в 2002ом мне было норм
источник

ПБ

Повелитель Бури... in Data Engineers
я видел хранилище на кликвью, мне понравилось,  этакий спарк на 1 ноде )
источник

AZ

Anton Zadorozhniy in Data Engineers
мой бывший студент показывал хранилище на 20 ТБ данных на одном ПГ, вполне норм, спарк это все-таки узкая ниша
источник

AG

Arsen Gumin in Data Engineers
Да я сильно в архитектуру пока не ухожу, больше по инструментам, технологиям
источник

ПБ

Повелитель Бури... in Data Engineers
ну  это классика, а вот на плоских файлах это редкость была лет 6 назад
источник

AZ

Anton Zadorozhniy in Data Engineers
основное хранилище одного из топ3 телекомов в РФ довольно долго было на SAS SPDS, это по сути проприетарный хадуп
источник

YI

Yaroslav S Ivanov in Data Engineers
Кто-нибудь использовал atlas? Если конкретнее - интересует построение column-level-lineages. У всех это выглядит также вырвиглазно, или есть нюансы, которые я упустил?
источник

AZ

Anton Zadorozhniy in Data Engineers
Использовал атлас, но UI всегда был свой, там как хотим так и рисуем (атлас это не продукт а фреймворк)
источник

YI

Yaroslav S Ivanov in Data Engineers
А в чем тогда смысл атласа? Чисто использовать api? И просто данные  из hbase забирали и визуализировали отдельно?
источник

AZ

Anton Zadorozhniy in Data Engineers
там вы можете замоделировать любые типы дата ассетов и процессов которых их связывают, наливать туда данные и задавать вопросы через апи
источник