Size: a a a

2020 September 12

A

Andrii in Scrapy
Кирилл
1000 это в месяц, или на 1 акк?
1 акк
источник

A

Andrii in Scrapy
И там можно сказать что тьі ентерпрайс и тебе 5000 в месяц
источник

S

SoHard 🎄 in Scrapy
Andrii
Ну вот мне нужно директорию, на 800 страниц, и отдать паука, что делать? Писать за копейки? Зарегал - забрал отдал)
800 страниц можно и селениумом пройтись
источник

К

Кирилл in Scrapy
Да, писать за копейки, ты не обойдешься без этого инструмента. Он будет нужен тебе постоянно
источник

К

Кирилл in Scrapy
По чуть-чуть ты сделаешь нормальный модуль, который сможешь использовать во всех проектах
источник

A

Andrii in Scrapy
У меня есть для больших проектов, но ето мой мидвар, и он для больших проектов
источник

A

Andrii in Scrapy
И кому то отдавать не охота
источник

A

Andrii in Scrapy
И клаудфла в2 правда не могу обойти норм
источник

A

Andrii in Scrapy
Может кстати у кого есть ? Я б купил :)
источник

S

SoHard 🎄 in Scrapy
Andrii
И клаудфла в2 правда не могу обойти норм
а что за сайт?
источник

S

SoHard 🎄 in Scrapy
дай пример
источник

A

Andrii in Scrapy
источник

S

SoHard 🎄 in Scrapy
попытайся найти адрес минуя клоуд
источник

S

SoHard 🎄 in Scrapy
источник

A

Andrii in Scrapy
О, интересно
источник

A

Alex in Scrapy
чет у меня странно ведет себя паук, где то я натупил
правильно ли я построил логику работы паука?

def parse(self, response):
       links =
все линки на категории
       for page in links: -- захожу в каждую категорию
           yield scrapy.Request(page, callback = self.parse_page)

def parse_page(self, response):
 page_links =
получаю линки обьяв на странице
 for ads in page_links: - захожу в каждый линк
   yield scrapy.Request(ads, callback = self.parse_ads)

   link_next_page =
получаю ссылку на следующую страницу
   yield response.follow(link_next_page, self.parse_page) - передаю ссылку

def parse_ads(self, response): - собираю данные
 yield {
     'Phone': phone_number,
          }
источник

A

Alex in Scrapy
паук работает, собирает данные но чет такое чувство что, что то забыл)
источник

К

Кирилл in Scrapy
вроде норм
источник

К

Кирилл in Scrapy
Если работает, то что ты мог забыть?
источник

A

Alex in Scrapy
поставил принты
вываливает одинаковые линки
источник