Size: a a a

Архитектура данных

2020 February 06

PD

Phil Delgyado in Архитектура данных
Denis Troyan
А как в Спарке быстро точечно обновлять данные?
А зачем в вычислительном гриде точечно данные обновлять?
источник

DT

Denis Troyan in Архитектура данных
Если в качестве кэша использовать, и писать из очереди сразу и в прод, и в игнайт
источник

Z

Zhenya in Архитектура данных
ну классически селишь задачу максимально близко к данным.
источник

DT

Denis Troyan in Архитектура данных
Если данные быстро обновляются, то не хочется ставить маленький TTL, и постоянно лезть в боевую базу при чтении из игнайта. Тогда можно в игнайте параллельно на лету обновлять данные
источник

DT

Denis Troyan in Архитектура данных
А в Спарк ты один раз поднял данные с диска — и периодически обновляешь с задержкой полностью. Может, есть ещё способы заставить данные в спарке быстро обновляться?
источник

Z

Zhenya in Архитектура данных
про задачи для игнайта, вы сформулируйте задачу, а я попробую ответить, зайдет или нет :)
источник

DT

Denis Troyan in Архитектура данных
Есть веб-форма, куда нужно подтягивать клиентские данные при ее открытии. Данные лежат в базе. Нужно складывать их в кэш, и читать оттуда по возможности при последующих запросах
источник

Z

Zhenya in Архитектура данных
https://apacheignite.readme.io/docs/3rd-party-store а вот прям если так ?:)
источник

Z

Zhenya in Архитектура данных
ну вообще ваша задача про кеширование ) тут уже говорили что как кеш можно так же как и редис :)
источник

DT

Denis Troyan in Архитектура данных
Это одна задача:) а ещё задача — отдавать на фронт аналитику небольшую по клиенту. Расчёт аналитики время занимает, и должен учитывать свежие данные
источник

Z

Zhenya in Архитектура данных
ну пока не вижу противопоказаний )
источник

DT

Denis Troyan in Архитектура данных
А игнайт и ок с этим справляется!
источник

DT

Denis Troyan in Архитектура данных
Но у ребят по отзывам падал и разваливался кластер
источник

DT

Denis Troyan in Архитектура данных
А ещё мета рассыпалась
источник

DT

Denis Troyan in Архитектура данных
Denis Troyan
Это одна задача:) а ещё задача — отдавать на фронт аналитику небольшую по клиенту. Расчёт аналитики время занимает, и должен учитывать свежие данные
Забыл уточнить, что расчёт очень хочется делать не на боевой базе. И поближе к данным. Поэтому можно сделать в игнайте
источник

PD

Phil Delgyado in Архитектура данных
Denis Troyan
Это одна задача:) а ещё задача — отдавать на фронт аналитику небольшую по клиенту. Расчёт аналитики время занимает, и должен учитывать свежие данные
А это я бы на CH делал бы.
источник

Z

Zhenya in Архитектура данных
ну бывало что и разваливался и мета да, но полечено, в 2.7.6 уже норм а в 2.8 будет лучше :)
источник

DT

Denis Troyan in Архитектура данных
Phil Delgyado
А это я бы на CH делал бы.
КХ не умеет в апдейты
источник

PD

Phil Delgyado in Архитектура данных
Как это, не умеет? А AggregateMerge на что.
источник

PD

Phil Delgyado in Архитектура данных
Т.е. хранить актуальный стейт по потоку изменений сущностей там легко.
источник