Size: a a a

MaxPatrol SIEM & VM

2020 November 12

m

max in MaxPatrol SIEM & VM
int 0x80
я не отрицаю, что подобная инсталляция может существовать. вопрос в том, каков реально занятый индексами объем дисков.
обычно - 90%
источник

i

int 0x80 in MaxPatrol SIEM & VM
Nikolai Arefiev
Ясно все. Давайте сразу, чтоб вы поняли. Я не являюсь сотрудником ПТ. Советую Вам почитать принципы работы ES в части хранения данных и поднятия этих данных с дисков при обработке запросов. Думаю, много станет более понятным
а, извините. я как-то полагал, что вы сотрудник пт и отвечаете за формирование в том числе системных требований. видимо, у меня устаревшая информация.
источник

i

int 0x80 in MaxPatrol SIEM & VM
max
обычно - 90%
ок, на 18Тб занятого пространства эластик продолжал работать на 10 рейде из 7200 дисков?
источник

RS

Roman Sergeev in MaxPatrol SIEM & VM
int 0x80
а, извините. я как-то полагал, что вы сотрудник пт и отвечаете за формирование в том числе системных требований. видимо, у меня устаревшая информация.
к сожалению, устаревшая :)
мы ваши претензии услышали
прозрачности и понятности не хватает, это факт
подумаем про изменения
источник

m

max in MaxPatrol SIEM & VM
int 0x80
ок, на 18Тб занятого пространства эластик продолжал работать на 10 рейде из 7200 дисков?
да, продолжал успешно работать, как я и говорил.
источник

NA

Nikolai Arefiev in MaxPatrol SIEM & VM
А чтож ему не работать то, когда все, кроме одного индекса тупо ничего не делают )))
источник

NA

Nikolai Arefiev in MaxPatrol SIEM & VM
они тупо подморожены
источник

i

int 0x80 in MaxPatrol SIEM & VM
max
да, продолжал успешно работать, как я и говорил.
интересно, тогда хотелось бы подробную спецификацию полки, на которой оно "продолжало работать". по моей практике на 7200 дисках уже при объеме индексов 10Тб и потоке в 2500 епс у ES были серьезные проблемы с работоспособностью
источник

RS

Roman Sergeev in MaxPatrol SIEM & VM
Nikolai Arefiev
Ну вот смотрите, заглянув в графану я там вижу 10-15К IOPS на серваке с Elastic на потоке в 25-30К EPS (R+W)
Да, я примерно аналогичное вижу )
2+2.5к на потоке в 6-7K
и под 40Тб индексов
источник

i

int 0x80 in MaxPatrol SIEM & VM
Roman Sergeev
Да, я примерно аналогичное вижу )
2+2.5к на потоке в 6-7K
и под 40Тб индексов
ну то есть получается, что 6к иопсов должно быть достаточно для стабильной работы на 6к епс?
источник

RS

Roman Sergeev in MaxPatrol SIEM & VM
int 0x80
ну то есть получается, что 6к иопсов должно быть достаточно для стабильной работы на 6к епс?
ну на относительно глубоких запросах оно сильно подскакивает
но ES не отваливается
хотя долго бывает, конечно
в целом, мы тут сейчас не делаем никаких утверждений
о достаточности и т.д.
но стабильность поведения ES7 в этом отношении значительно выше 1.7
источник

NA

Nikolai Arefiev in MaxPatrol SIEM & VM
Иногда, когда тормозит ES, стоит поискать проблему во всем тракте: начиная от дисков, дисковой полки/СХД, коммуникаций между полкой/СХД, контроллером в сервере, и особенно виртуализации (если есть)
источник

NA

Nikolai Arefiev in MaxPatrol SIEM & VM
по моей практике в 70% случаев проблему можно найти именно там.
источник

6

640kilobyte in MaxPatrol SIEM & VM
Nikolai Arefiev
Иногда, когда тормозит ES, стоит поискать проблему во всем тракте: начиная от дисков, дисковой полки/СХД, коммуникаций между полкой/СХД, контроллером в сервере, и особенно виртуализации (если есть)
иногда стоит глянуть не лопатит ли там gc массово
источник

NA

Nikolai Arefiev in MaxPatrol SIEM & VM
640kilobyte
иногда стоит глянуть не лопатит ли там gc массово
это тоже прикольный баг :) ES
источник

6

640kilobyte in MaxPatrol SIEM & VM
Nikolai Arefiev
это тоже прикольный баг :) ES
Что эластику для работы нужна пропорционально данным память?
источник

NA

Nikolai Arefiev in MaxPatrol SIEM & VM
прикольно что это баг про то, что GC G1  приходит не вовремя и чистит не до конца
источник

NA

Nikolai Arefiev in MaxPatrol SIEM & VM
этот баг есть в ветке 7.4.x
источник

RS

Roman Sergeev in MaxPatrol SIEM & VM
Nikolai Arefiev
этот баг есть в ветке 7.4.x
кинь ссылку, пожалуйста
источник

NA

Nikolai Arefiev in MaxPatrol SIEM & VM
Это я из присланного Валерой описания бага понял :) https://github.com/elastic/elasticsearch/issues/44484
источник