Size: a a a

2020 September 15

К

Кирилл in Scrapy
Как тебе идея, использовать сервер для уведомлений?
источник

МС

Михаил Синегубов... in Scrapy
Boris Krutskih
Ну типа в тот момент когда он получает страницу инст поинт)
Думал скрепи автоматически может на это ошибку кидать)
скрапи скажет, по умолчанию, в логе
и вообще, ты уверен, что он заходит на эту страницу?
источник

BK

Boris Krutskih in Scrapy
Михаил Синегубов
скрапи скажет, по умолчанию, в логе
и вообще, ты уверен, что он заходит на эту страницу?
вот тут несовсем)) такое ощущение что он просто берет ссылки и всё
источник

BK

Boris Krutskih in Scrapy
Кирилл
Как тебе идея, использовать сервер для уведомлений?
то что выше написал?) prometheus + grafana
источник

МС

Михаил Синегубов... in Scrapy
Boris Krutskih
вот тут несовсем)) такое ощущение что он просто берет ссылки и всё
правильно, он с первой страницы берет ссылки и все
источник

BK

Boris Krutskih in Scrapy
Михаил Синегубов
правильно, он с первой страницы берет ссылки и все
т.е ему еще нужно добавить, чтобы он кликал
источник

МС

Михаил Синегубов... in Scrapy
Boris Krutskih
т.е ему еще нужно добавить, чтобы он кликал
аллилуйя, возрадуемся.
вообще, паук должен ходить по страницам, по тем, по которым ты скажешь
источник

К

Кирилл in Scrapy
Boris Krutskih
то что выше написал?) prometheus + grafana
Я не знаком с этими инструментами. Но если это твой сайт, как один из вариантов можно сделать кастомную страницу с 500 ответом которая будет отправлять уведомление при ошибке
источник

К

Кирилл in Scrapy
Скорее всего в Yii  что-то такое уже есть. В django, к примеру, это делается изнутри, отправляются уведомления об ошибках
источник

BK

Boris Krutskih in Scrapy
Спасибо за помощь, буду дальше разбираться) возможно всетаки стоит обратить внимание на какой-то инструмент мониторинга)
источник

S

Spirit💎 in Scrapy
господа, а где в скрапи указывать этот параметр реквеста? в миддлваре?
источник

К

Кирилл in Scrapy
Можно при запросе, можно в миделваре
источник

A

Andrii in Scrapy
rules = [Rule(LinkExtractor(allow='c/'),
                 callback='parse_attr', follow=True)]
может сразу как то сохранять ССЬІЛКИ куда-то ? ТХТ и т.д.
источник

S

Spirit💎 in Scrapy
Кирилл
Можно при запросе, можно в миделваре
а запрос откуда начинается? из класса спайдера или раньше?
источник

К

Кирилл in Scrapy
Первые в start_requests формируются
источник

S

Spirit💎 in Scrapy
Кирилл
Первые в start_requests формируются
спасибо
источник

S

Spirit💎 in Scrapy
Кирилл
Первые в start_requests формируются
так ведь это должно выглядеть?
источник

К

Кирилл in Scrapy
Spirit💎
так ведь это должно выглядеть?
Да
источник

S

Spirit💎 in Scrapy
с таким решением перестает работать правило:
rules = [Rule(LinkExtractor(), callback='parse', follow=True)]
из-за чего? вместо него работает start_requests()?
источник

К

Кирилл in Scrapy
Spirit💎
с таким решением перестает работать правило:
rules = [Rule(LinkExtractor(), callback='parse', follow=True)]
из-за чего? вместо него работает start_requests()?
какая у тебя версия?
источник