Size: a a a

2020 September 24

К

Кирилл in Scrapy
А, это не скрапи?
источник

А

Андрей in Scrapy
Вопрос в другом, как решить эту задачу с помощью оператора with, а не с помощью фреймворка, и за наводку спасибо!)
источник

К

Кирилл in Scrapy
Ты никак это не решишь в данном случае, чтоб это можно было сделать, тебе нужно чтоб with был в одной области с кодом. Т.е. если ты окрываешь коннект в ините, ты никак этого не сможешь сделать. Чтоб сработало, тогда нужно открывать коннект до паука, и передавать его через инит уже открытым
источник

К

Кирилл in Scrapy
Что-то вроде
with connect() as connect:
   spider = Spider(connect)
источник

К

Кирилл in Scrapy
А вообще по грабу это в другой чат https://t.me/grablab_ru
источник

А

Андрей in Scrapy
Спасибо, я так и думал, потому что что бы его закрыть грубо говоря сначала нужно открыть, а открывается он в ините. Но почему то были сомнения, из за того что можно заменить try finally но тогда конект был бы так же в ините, но при этом все бы работало
источник
2020 September 25

AA

An Allford in Scrapy
Доброго времени суток всем.
Есть вопрос. недавно столкнулся со скрапи.
https://pastebin.com/PJHXEeK5
Образец кода выложил в общий доступ.
Могу ли я передать экземпляр класса Item'a в другую функцию и дополнить его в другой функции содержимым?
источник

AA

An Allford in Scrapy
И ещё хотел спросить, нигде не могу найти как по-человечески передать параметры. В requests для этого используется params, а тут?
источник

B

Bulatbulat48 in Scrapy
An Allford
И ещё хотел спросить, нигде не могу найти как по-человечески передать параметры. В requests для этого используется params, а тут?
Передать можно через params в formrequest и метод гет. Передача как в requests в процессе https://github.com/scrapy/scrapy/pull/4730 но не знаю, одобрят или нет меинтейнеры.
источник

B

Bulatbulat48 in Scrapy
An Allford
Доброго времени суток всем.
Есть вопрос. недавно столкнулся со скрапи.
https://pastebin.com/PJHXEeK5
Образец кода выложил в общий доступ.
Могу ли я передать экземпляр класса Item'a в другую функцию и дополнить его в другой функции содержимым?
Да, через meta. В новых версиях через cb_kwargs вроде как.
источник

✏d

✏️ Oleksandr dntPani... in Scrapy
скажите, что за беда может быть
[rotating_proxies.middlewares] INFO: Proxies(good: 0, dead: 0, unchecked: 5, reanimated: 0, mean backoff time: 0s)
и так до бесконечности, хотя прокси  рабочие
источник

К

Кирилл in Scrapy
✏️ Oleksandr dntPanix |Worm|
скажите, что за беда может быть
[rotating_proxies.middlewares] INFO: Proxies(good: 0, dead: 0, unchecked: 5, reanimated: 0, mean backoff time: 0s)
и так до бесконечности, хотя прокси  рабочие
ты подключил BanDetectionMiddleware?
источник

✏d

✏️ Oleksandr dntPani... in Scrapy
Кирилл
ты подключил BanDetectionMiddleware?
нет, но прокся новая, только купленая
источник

К

Кирилл in Scrapy
Как бы оно отмечает рабочая или нет, если ты не подключил, то как оно узнает
источник

✏d

✏️ Oleksandr dntPani... in Scrapy
я подключаю через джанго - пишу в бд, а ротайтинг должен читать
источник

К

Кирилл in Scrapy
и?
источник

✏d

✏️ Oleksandr dntPani... in Scrapy
и да
источник

✏d

✏️ Oleksandr dntPani... in Scrapy
источник

К

Кирилл in Scrapy
В чем вопрос? Почему unchecked не меняются на good|bad?
источник

✏d

✏️ Oleksandr dntPani... in Scrapy
ну да
источник