Size: a a a

2019 October 18

М

Мак in Scrapy
народ, такой вопрос.
два паука в одном проекте, имена разные, классы разные, каждый паук создавался командой genspider
но, в каждом пауке до класса есть одинаковые функции, получающие некоторые данные необходимые для работы каждого из пауков.
Косяк в том, что при запуске второго паука, почему то запускается означенная функция из первого... где это пересечение может быть?
источник

АП

Агент Печенька in Scrapy
Код покажи.
источник
2019 October 19

UN

User Name in Scrapy
парни, как к селениуму прикрутить прокси

PROXY = "1.2.169.8:49371"


def append_new_history(cfg, PROXY):
   webdriver.DesiredCapabilities.FIREFOX['proxy'] = {
       "httpProxy": PROXY,
       "ftpProxy": PROXY,
       "sslProxy": PROXY,
       "proxyType": "MANUAL",
   }

не работает
источник

V

Victor in Scrapy
Никто не подскажет как вытянуть form data используя post запрос?
источник

С

Серёжа in Scrapy
Victor
Никто не подскажет как вытянуть form data используя post запрос?
Вкладка Network в консоли  браузера
Такое?
источник

V

Victor in Scrapy
Серёжа
Вкладка Network в консоли  браузера
Такое?
Да, оно самое
источник
2019 October 20

I

Ivan in Scrapy
Всем привет. splash загружает только часть css и js после чего загрузка страницы приостанавливается и висит до timeout
Кто-то сталкивался с таким?
источник

К

Кирилл in Scrapy
Ivan
Всем привет. splash загружает только часть css и js после чего загрузка страницы приостанавливается и висит до timeout
Кто-то сталкивался с таким?
Возьми селенимум, иногда сплэш просто не справляется
источник

I

Ivan in Scrapy
Кирилл
Возьми селенимум, иногда сплэш просто не справляется
селениум неделю будет собирать то что мне нужно(
источник

I

Ivan in Scrapy
Кирилл
Возьми селенимум, иногда сплэш просто не справляется
я когда отключаю js сайт грузиться, нужно часть js заблокировать, вот только знать бы как
источник

К

Кирилл in Scrapy
А с отключененым js там есть данные которые тебе нужны?
источник

I

Ivan in Scrapy
Кирилл
А с отключененым js там есть данные которые тебе нужны?
нет
источник

I

Ivan in Scrapy
Кирилл
А с отключененым js там есть данные которые тебе нужны?
на сайте куча js которые отслеживают аналитику, я так понял они не могут загрузиться
источник

К

Кирилл in Scrapy
Ivan
нет
Тогда pyppeeter или selenium
источник

EB

Elisei Badanin in Scrapy
кто где прокси берет? нужно что-то дешевое с большим пулом на день
источник

МС

Михаил Синегубов in Scrapy
Elisei Badanin
кто где прокси берет? нужно что-то дешевое с большим пулом на день
Файнпрокси. Прям нормальных больше не знаю
источник

EB

Elisei Badanin in Scrapy
там на долго, мне бы много и на день, можно и тормознутые
источник

МС

Михаил Синегубов in Scrapy
Elisei Badanin
там на долго, мне бы много и на день, можно и тормознутые
1000 проксей за 1,4 килорубля? а не пофиг ли на сколько? :)
источник

EB

Elisei Badanin in Scrapy
мне бы 10000 за 1.4 но на день, а не неделю)
источник

EB

Elisei Badanin in Scrapy
https://rsocks.net/shared-proxy — думаю этих затестить, можнт кто-то пробовал?
источник