t
сравниваешь numInputRows с maxOffsetsPerTrigger
Size: a a a
2019 November 05
ME
но вообще есть метод гораздо более простой (если тебе надо качественно понять, есть лаг или нет)
Он же всегда есть, спарк не мгновенно вычисляет всё)
t
ну в мире спарка лаг это скорее пара часов, нежели пара секунд
AC
ну в мире спарка лаг это скорее пара часов, нежели пара секунд
какой у вас печальный мир)
R
всем привет, вопрос по мониторингу AWS S3 - может кто сталкивался с такой штукой.
Вкратце - есть s3 path, в которую пишется стрим, хочется добавить простое правило в CloudWatch - если данные не заливаются последние X минут, триггернуть алерт. как это проще всего сделать
Вкратце - есть s3 path, в которую пишется стрим, хочется добавить простое правило в CloudWatch - если данные не заливаются последние X минут, триггернуть алерт. как это проще всего сделать
AZ
всем привет, вопрос по мониторингу AWS S3 - может кто сталкивался с такой штукой.
Вкратце - есть s3 path, в которую пишется стрим, хочется добавить простое правило в CloudWatch - если данные не заливаются последние X минут, триггернуть алерт. как это проще всего сделать
Вкратце - есть s3 path, в которую пишется стрим, хочется добавить простое правило в CloudWatch - если данные не заливаются последние X минут, триггернуть алерт. как это проще всего сделать
там вроде дименшен только по бакету, но можно сделать фильтр по префиксу, и использовать метрику для бакета и конкретного фильтра
R
а вот вопрос чем заполнять CloudWatch (как метрики то отсылать)
Я вижу такие опции:
- навесить на бакет SNS нотификации -> отправлять их в SQS -> лямбдой отдавать в CloudWatch
- CloudTrail -> логи -> CloudWatch
- И еще есть какие-то put-метрики, описанные в разделе мониторинга в самом S3
Я вижу такие опции:
- навесить на бакет SNS нотификации -> отправлять их в SQS -> лямбдой отдавать в CloudWatch
- CloudTrail -> логи -> CloudWatch
- И еще есть какие-то put-метрики, описанные в разделе мониторинга в самом S3
AZ
вот эти метрики на бакете настроить можно https://docs.aws.amazon.com/AmazonS3/latest/dev/cloudwatch-monitoring.html#s3-request-cloudwatch-metrics
AZ
там конечно best effort в плане доставки, но у меня не было проблем
S
Есть тут такие, ктот крутит спарк на k8s? Может кто нибудь сталкивался с задачей сбора логов со спарк экзеков в таком случае? Дока говорит, логи на подах есть, а дальше придумайте сами)
Логов много и пушнуть их в ELK не вариант
Логов много и пушнуть их в ELK не вариант
AZ
Есть тут такие, ктот крутит спарк на k8s? Может кто нибудь сталкивался с задачей сбора логов со спарк экзеков в таком случае? Дока говорит, логи на подах есть, а дальше придумайте сами)
Логов много и пушнуть их в ELK не вариант
Логов много и пушнуть их в ELK не вариант
Fluentd/Fluentbit и если надо по ним искать то нужен все-таки какой-то индекс, просто там можно не хранить на большую глубину
S
Не втащит efk... Юзаем его для всего остального
S
Но логов со спарка ооооочень много может прилетать
AZ
тут вам либо надо их читать либо нет, если надо - собирайте, если нет - удаляйте ))
AZ
как вариант сделать ручку, чтобы собирать по запросу, или фильтровать где-то в сайдкаре, но это как-то в гамаке и стоя
AZ
если вам для аудита то можно затулить пакетное копирование в С3 после джоба, но если читать - придется куда-то поднимать
S
Вот именно так и сделано сейчас) но решение так себе)
S
если вам для аудита то можно затулить пакетное копирование в С3 после джоба, но если читать - придется куда-то поднимать
Не успеем скопировать - нет экзека - нет пода
S
В темплату экзека пока нельзя докинуть кастомщины
AZ
да, есть такое ограничение