Size: a a a

Архитектура данных

2019 July 05

PD

Phil Delgyado in Архитектура данных
А для этого есть собственно бизнес-логика и соответствующие сервисы. Ну, можно еще и redis прикрутить. Но 100K в секунду для той же FDB - вполне нормально.
источник

CO

Chern Oleksander in Архитектура данных
Phil Delgyado
1) OLTP нагрузка и аналитика - это по определению разные базы.
2) реляционка и 100K в секунду на OLTP - крайне мало вероятно.
Так бы я советовал FoundationDB+CH
Для олтп использовать mongo db или dynamo db, складывать в с3, от туда забирать в postgress или oracle и там формировать реляционка для аналитиков и бизнес-процессов
источник

PD

Phil Delgyado in Архитектура данных
Это не самая удобная архитектура.
И монго не очень для oltpи постгре с ораклом не подходят для аналитики
источник

PD

Phil Delgyado in Архитектура данных
А что за бизнес-процессы, которые не по oltp?
источник

CO

Chern Oleksander in Архитектура данных
Phil Delgyado
Это не самая удобная архитектура.
И монго не очень для oltpи постгре с ораклом не подходят для аналитики
Это как постгресс/оракл не подходит?
источник

PD

Phil Delgyado in Архитектура данных
И зачем в середине c3?
источник

PD

Phil Delgyado in Архитектура данных
Chern Oleksander
Это как постгресс/оракл не подходит?
И тот и другой больше ориентированы на oltp. Аналитику делают медленно, на больших данных очень медленно.
источник

CO

Chern Oleksander in Архитектура данных
Phil Delgyado
А что за бизнес-процессы, которые не по oltp?
Типо ерп, есть таблицы со справочниками, например сотрудник должен иметь дату рождения, имя, фамилия и должность и тд.. есть таблица с должностями и департаментами
источник

PD

Phil Delgyado in Архитектура данных
А, ну это пофиг где делать, там нагрузка копеечная
источник

CO

Chern Oleksander in Архитектура данных
Phil Delgyado
И тот и другой больше ориентированы на oltp. Аналитику делают медленно, на больших данных очень медленно.
А что быстрее? Быстрее оракл ничего не видел )) 6лет опыта
источник

CO

Chern Oleksander in Архитектура данных
Phil Delgyado
И зачем в середине c3?
Закладывал что там дешевле хранить, типо данные холодного хранения
источник

PD

Phil Delgyado in Архитектура данных
Chern Oleksander
А что быстрее? Быстрее оракл ничего не видел )) 6лет опыта
Для каких задач? Быстрее вертика, Clickhouse, greenlpum, Spark и куча других.
источник

PD

Phil Delgyado in Архитектура данных
Chern Oleksander
Закладывал что там дешевле хранить, типо данные холодного хранения
Зачем тебе хранить там, грузи сразу в аналитику
источник

PD

Phil Delgyado in Архитектура данных
И что ты там хочешь хранить? Бэкапы? Снэпшоты?
источник

CO

Chern Oleksander in Архитектура данных
Phil Delgyado
Для каких задач? Быстрее вертика, Clickhouse, greenlpum, Spark и куча других.
Для аналитики будет использоваться уже реляционка
Что б на лету постоянно не считать (дорого)
источник

PD

Phil Delgyado in Архитектура данных
Chern Oleksander
Для аналитики будет использоваться уже реляционка
Что б на лету постоянно не считать (дорого)
Реляционка плоха для аналитики.
источник

PD

Phil Delgyado in Архитектура данных
И кто мешает считать сразу в oltp базе?
источник

PD

Phil Delgyado in Архитектура данных
И на чем etl?
источник

PD

Phil Delgyado in Архитектура данных
Ещё можно посмотреть на Kafka streams, для игр должно хорошо подходить
источник

CO

Chern Oleksander in Архитектура данных
Phil Delgyado
Зачем тебе хранить там, грузи сразу в аналитику
С3 использует какие-то мего архиваторы или методы архива, csv меньше весит в с3 чем а таблице а оракл,постгресс, мускул.
Хранить архивы, типо данные за 1990 год, три года прошло, один год в архив...
источник