Size: a a a

Церковь метрик

2020 July 09

S

Slach in Церковь метрик
blkmrkt
Это конечно прикольно, но нам пока такое не нужно. Выбрать бы для начала как в ванильном формате передавать эти всякие счетчики.

Например какую конвенцию нейминга использовать когда таймишь время работы функции.
вроде Баянино поддерживает теги
https://github.com/avito-tech/bioyino/tree/master/src/task.rs#L104

Ребята из Авито есть на этом канале они могут подтвердить
источник

VS

Vladimir Smirnov in Церковь метрик
blkmrkt
Это конечно прикольно, но нам пока такое не нужно. Выбрать бы для начала как в ванильном формате передавать эти всякие счетчики.

Например какую конвенцию нейминга использовать когда таймишь время работы функции.
ну это просто один из юз-кейсов тегов - взять и путь к сорцу или там функцию или еще что-нибудь в тэги унести, позволяет не думать о структурировании (или думать но меньше)
источник

VS

Vladimir Smirnov in Церковь метрик
Slach
вот кстати для statsd не знаю есть ли поддержка тегов
для всех аггрегаторов поддержка тегов заканичивается на том что ; добавить в разрешенный набор символов
источник

b

blkmrkt in Церковь метрик
Slach
кроме точки нету ничего в качестве разделителя
собственно это не разделитель вовсе
имя метрики это просто набор символов из подмножества
там потом имя метрики при желании на regexp можно покрошить

а теги IMHO позволяют одну и туже метрику раскидывать на разные подмножества не грузясь конвенциями =)

ну и потом наверное из grafana в clickhouse через clickhouse-grafana можно ходить а не через graphite-clickhouse если припрет и делать SQL запросы
спасибо большое, круто!
источник

b

blkmrkt in Церковь метрик
blkmrkt
Ребят, а как правильно структурировать пути к метрикам? Вот у нас большая монорепо в основном на питоне, имеется множество разных кравлеров. Нормально ли отражать пути к сорцу который сгенерировал метрику, внутри пути к метрике? Например src.org.scripts.facebook.crawl_profiles.py:persist. Что кроме точки имеет семантичкское значение в этих путях, где почитать?

Стек я таки собрал и настроил как вот тут https://github.com/kolobaev/graphite-clickhouse-tldr
А с этим стеком можно как-нибудь собирать уникальные стринги? К примеру ИП адреса посетителей или юзер-агенты, и чтоб можно было вывести в Графану topN этих вот значений за выбранный промежуток.

Нам с нашим кравлингом это было бы очень полезно так мониторить качество заграбленных данных.
источник

b

blkmrkt in Церковь метрик
Или хотя бы просто возможность считать кол-во уникальных стрингов.
источник

b

blkmrkt in Церковь метрик
Я так понимаю что графит он чисто для numeric time series.

Но в коннекторе Графаны к КХ есть демо дешборд который показывает топ ИП адресов, и мне интересно чем следует такие данные заливать в Кликхауз? bioyino/carbon-clickhouse вроде бы не подойдет.
источник

S

Slach in Церковь метрик
blkmrkt
Я так понимаю что графит он чисто для numeric time series.

Но в коннекторе Графаны к КХ есть демо дешборд который показывает топ ИП адресов, и мне интересно чем следует такие данные заливать в Кликхауз? bioyino/carbon-clickhouse вроде бы не подойдет.
ну что мешает заливать напрямую?
chproxy или Kittenhouse или clickhouse-bulk какой нибудь или Engine=Buffer таблицы в ClickHouse для этого подойдут
источник

n

noname in Церковь метрик
Slach
в логи промметеуса тогда смотрите и в логи оператора
дело оказалось вот в чем:
у прометеуса такие селекторы были:
   serviceMonitorSelector:
     matchLabels:
       release: prom

а у сервис монитора:
component: stolon-keeper

добавил к сервис монитору лэйбл
release: prom
и все заработало.  
правильно ли так делать? или эти лэйблы надо в самом конфе прометея добавлять для разных сервис мониторов:
источник

G

GithubReleases in Церковь метрик
grafana/grafana tagged: v7.0.6
Link: https://github.com/grafana/grafana/releases/tag/v7.0.6
Release notes:
release v7.0.6
источник

S

Slach in Церковь метрик
noname
дело оказалось вот в чем:
у прометеуса такие селекторы были:
   serviceMonitorSelector:
     matchLabels:
       release: prom

а у сервис монитора:
component: stolon-keeper

добавил к сервис монитору лэйбл
release: prom
и все заработало.  
правильно ли так делать? или эти лэйблы надо в самом конфе прометея добавлять для разных сервис мониторов:
ну это ... я так понимаю, для того чтобы сформировать список endpoint в prometheus
там в pod рядом с prometheus запускается еще один контейнер config-reloader
который скрейпит в k8s kind: ServiceMonitor и генерит из них уже конфиги прометеус, отыскивая сервисы которые прописаны в ServiceMonitor
источник

n

noname in Церковь метрик
Slach
ну это ... я так понимаю, для того чтобы сформировать список endpoint в prometheus
там в pod рядом с prometheus запускается еще один контейнер config-reloader
который скрейпит в k8s kind: ServiceMonitor и генерит из них уже конфиги прометеус, отыскивая сервисы которые прописаны в ServiceMonitor
ну да, ему нужны были эти лэйблы в общем
источник

S

Slach in Церковь метрик
noname
дело оказалось вот в чем:
у прометеуса такие селекторы были:
   serviceMonitorSelector:
     matchLabels:
       release: prom

а у сервис монитора:
component: stolon-keeper

добавил к сервис монитору лэйбл
release: prom
и все заработало.  
правильно ли так делать? или эти лэйблы надо в самом конфе прометея добавлять для разных сервис мониторов:
все лейблы лучше добавлять в Custom Resources для оператора
и только в крайний случай лезть в конфиги прометея как такового
источник

G

GithubReleases in Церковь метрик
grafana/grafana description changed: v7.0.6
Link: https://github.com/grafana/grafana/releases/tag/v7.0.6
Release notes:
[Download Page](https://grafana.com/grafana/download/7.0.6)  

[What's New Highlights](https://grafana.com/docs/grafana/latest/guides/whats-new-in-v7-0/)  

[Release Notes](https://community.grafana.com/t/release-notes-v7-0-x/29381)

### Bug fixes

*...
More
источник

MS

Mikolaj Sobolewski in Церковь метрик
всем привет, вопрос по прометею
expr: time() - rates_last_updated{environment="mainnet",source="1"} > 3600
expr: time() - rates_last_updated{environment="mainnet",source="2} > 3600
можно это как то запихать в один expression или надо делать несколько. Ну и где можно про это почитать подробнее а то в офф документации очень куцо написано
источник

S

Slach in Церковь метрик
Mikolaj Sobolewski
всем привет, вопрос по прометею
expr: time() - rates_last_updated{environment="mainnet",source="1"} > 3600
expr: time() - rates_last_updated{environment="mainnet",source="2} > 3600
можно это как то запихать в один expression или надо делать несколько. Ну и где можно про это почитать подробнее а то в офф документации очень куцо написано
это у вас alert rules в проме?

ну там or есть вообще
источник

А

Александр in Церковь метрик
всем привет. Пытаюсь настроить сбор метрик прометеем с node_exporter. Чтобы в рамках одной джобы он собирал метрики и с конкретного списка хостов, и с Consul. Но пока что эта история не очень не получается - собирает только метрики с Consul сервисов.
Prometheus вообще умеет в рамках одной scrape джобы использовать несколько разных вариантов сбора метрик?
источник

AS

Aleksey Shirokikh in Церковь метрик
Нет не умеет
источник

А

Александр in Церковь метрик
жаль:( спасибо!
источник

А

Александр in Церковь метрик
причем похоже что именно с консулом он так не умеет, так как в примере конфига (https://github.com/prometheus/prometheus/blob/release-2.19/config/testdata/conf.good.yml) есть разные scrape-конфиги в одной джобе
источник