Size: a a a

2020 February 03

М

Мак in Scrapy
я двумя пользуюсь, рукапча и антикапча. рукапча на мой взгляд поудобнее в плане того, что не берет деньги если не смогли решить за несколько подходов
источник

МС

Михаил Синегубов in Scrapy
Мак
я двумя пользуюсь, рукапча и антикапча. рукапча на мой взгляд поудобнее в плане того, что не берет деньги если не смогли решить за несколько подходов
насчет сохранения куков не прояснишь? не приходится решать на каждой странице ее?
поянтоно что у меня, скорее всего, чуть по другому будет, но "какая средняя температура по больнице"?
источник

М

Мак in Scrapy
Михаил Синегубов
насчет сохранения куков не прояснишь? не приходится решать на каждой странице ее?
поянтоно что у меня, скорее всего, чуть по другому будет, но "какая средняя температура по больнице"?
вот тут не подскажу даже... от прокси много зависит, понравится или нет сайту. бывает и так, что на каждый запрос втыкают капчу. а насчет пуппитира - я вопрос задавал в свое время - мне тут парни ответили что процентов 70 помогает капчу в3 проходить. но сам я не пробовал
источник

МС

Михаил Синегубов in Scrapy
Мак
вот тут не подскажу даже... от прокси много зависит, понравится или нет сайту. бывает и так, что на каждый запрос втыкают капчу. а насчет пуппитира - я вопрос задавал в свое время - мне тут парни ответили что процентов 70 помогает капчу в3 проходить. но сам я не пробовал
угу, спс и на этом, это уже намного больше чем я знал до этого 😄
источник

М

Мак in Scrapy
Михаил Синегубов
угу, спс и на этом, это уже намного больше чем я знал до этого 😄
для сервиса там придется параметр один поискать action - это значение нужно искать в javascript коде сайта в вызове функции grecaptcha.execute. я полдня убил в свое время, чтоб понять что и куда и где его ловить
источник

МС

Михаил Синегубов in Scrapy
Мак
для сервиса там придется параметр один поискать action - это значение нужно искать в javascript коде сайта в вызове функции grecaptcha.execute. я полдня убил в свое время, чтоб понять что и куда и где его ловить
ок, спс
источник

М

Мак in Scrapy
с дром.ру кто нибудь работал в последнее время?
источник

E

Evgen in Scrapy
Михаил Синегубов
народ, ко мне тут recaptha v3  пришла. Чем ее проходят тру программисты? 😄 Что то такое почитал про "puppeteer", нашел мидлварю https://github.com/clemfromspace/scrapy-puppeteer
в правильном направлении копаю? Или надо куда в другую сторону рыть?
Вероятно придется все рендерить через puppeteer плюс плагин stealth
источник

l

linuxoid in Scrapy
Мак
с дром.ру кто нибудь работал в последнее время?
источник

SG

Semen Grigorev in Scrapy
Всем, привет! Есть кто работал со стеком scrapy docker kubernetes, напишите, пожалуйста!
источник

R

Roma in Scrapy
Semen Grigorev
Всем, привет! Есть кто работал со стеком scrapy docker kubernetes, напишите, пожалуйста!
А вопрос то какой?
источник

SG

Semen Grigorev in Scrapy
Надо настроить систему, примерно, как на scrapinghub, т.е. арендуешь сервер и можешь деплоить туда проекты на scrapy, только сделать это на herzner, чтобы почасово за аренду платить
источник

R

Roma in Scrapy
Настроить или разработать?
источник

SG

Semen Grigorev in Scrapy
Наверно настроить и разработать, я не силен в данной теме, но суть примерно такая, есть разные проекты на scrapy, в зависимости от потребности они могут быть запущены на ВМ herzner в необходимом объеме. Т.е. нужен настроенный контейнер (docker) и отслеживание нагрузки (kubernetes), появилась задача поднялась ВМ, задача выполнилась, убралась ВМ.
источник

R

Roma in Scrapy
Ну задача не из простых...врядли тут подобное кто то делал...Тут не мало так то технологий будет - и балансировщик и очереди, мониторинг и так далее
источник

R

Roma in Scrapy
надо прорисовывать и продумывать все хотелки и архитектуру всего проекта
источник

AR

Andrey Rahmatullin in Scrapy
да, дофига делов
источник

Q

Qwelcer in Scrapy
Ребята возможно глупый вопрос, почему в консоль span() возвращает такие позиции? Оно ж вроде должно по позициям, например первый tuple - (0, 1)?
источник

Q

Qwelcer in Scrapy
Qwelcer
Ребята возможно глупый вопрос, почему в консоль span() возвращает такие позиции? Оно ж вроде должно по позициям, например первый tuple - (0, 1)?
то есть чтобы указать на число 12 - индекс 0 и 1? или я не так понял
источник

Q

Qwelcer in Scrapy
и остальные цифры тоже так же, как будто с лишним элементом берет
источник