Size: a a a

2020 November 10

МС

Михаил Синегубов... in Scrapy
источник

AR

Andrey Rahmatullin in Scrapy
Archie
в Popen передаю путь до пайтона и путь до скрипта
передавай рабочий каталог
источник

МС

Михаил Синегубов... in Scrapy
одни я сегодня злой? 🧐
источник

A

Archie in Scrapy
Andrey Rahmatullin
передавай рабочий каталог
тоесть путь до пайтона (env) и путь до рабочего каталога?
источник

ЛГ

Лев Гареев in Scrapy
Михаил Синегубов
одни я сегодня злой? 🧐
no
источник

AR

Andrey Rahmatullin in Scrapy
передавай в качестве рабочего каталога правильный путь, как было сказано изначально
источник

К

Кирилл in Scrapy
Archie
тоесть путь до пайтона (env) и путь до рабочего каталога?
передавай параметр cwd
источник

К

Кирилл in Scrapy
и почитай про ос что-то
источник

A

Archie in Scrapy
очень спасибо, походу пошло
источник

СК

Семён Кашин... in Scrapy
Господа! Подскажите, пожалуйста.
Я запускаю спайдер через scrapyd. Мне нужно, что выходной фал бился по достижениии опрделенного количества результатов.  Количество резуьтатов я задаю через FEED_EXPORT_BATCH_ITEM_COUNT в файле settings.py. Форматтер, который, задает название файла задаю через функцию и передаю в параметр FEED_URI_PARAMS = 'myproject.utils.uri_params'
источник

СК

Семён Кашин... in Scrapy
но при запуске через scrapyd файл результатов не появляется. Внимание вопрос: почему?
источник

СК

Семён Кашин... in Scrapy
что я делаю не так
источник

СК

Семён Кашин... in Scrapy
?
источник

СК

Семён Кашин... in Scrapy
повторюсь. Запуск спайдера происходит через scrapyd
источник

СК

Семён Кашин... in Scrapy
как сделать, что бы данные записвались в формате {job_id}_{batch_id}.jl
источник

СК

Семён Кашин... in Scrapy
?
источник

СК

Семён Кашин... in Scrapy
руками запускаю, через командную строку - все рабтает нормально
источник

i

i in Scrapy
а как в scrapyd передается аналог -o "%(spider_name)s.jl" ?
источник

СК

Семён Кашин... in Scrapy
scrapy crawl spider_name -o  "path_to_file/%(spider_name)s-%(batch_id)ds.json"
источник

СК

Семён Кашин... in Scrapy
в консоли я вбиваю такую команду
источник