Size: a a a

2020 November 10

СК

Семён Кашин... in Scrapy
количество items в выходном файле устанавливается через FEED_EXPORT_BATCH_ITEM_COUNT
источник

СК

Семён Кашин... in Scrapy
но когда я запускаю через scrapyd, то файл не пишется в принципе
источник

AR

Andrey Rahmatullin in Scrapy
Переслано от Andrey Rahmatullin
Я впрочем навскидку не помню достаточно ли описанных выше настроек
источник

AR

Andrey Rahmatullin in Scrapy
Переслано от Andrey Rahmatullin
Ну и я бы проверил что эти настройки вообще читаются
источник

i

i in Scrapy
лично я вообще не знаю, и с новым механизмом FEEDS еще не работал даже) поэтому и спросил как аналог того, что он делает в консоли, передается в scrapyd. Если "из консоли запускается, а через scrapyd нет", то явно там где-то проблема
источник

AR

Andrey Rahmatullin in Scrapy
Сейчас я уже тоже не уверен не пытается ли он таки поюзать -о
источник

AR

Andrey Rahmatullin in Scrapy
А FEEDS это просто замена пачки отдельных настроек
источник

AR

Andrey Rahmatullin in Scrapy
(плюс возможность указать сразу несколько фидов)
источник

i

i in Scrapy
Семён Кашин
когда запускаю из консоли работает нормально. Но мне надо запускать через scrapyd
запусти через settings без scrapyd, чтобы у тебя не было -o доп.параметра. тогда ты задачу "не запускается через scrapyd" переведешь в задачу "не запускается при задании через settings. И scrapyd тут будет не причем)
источник

i

i in Scrapy
а спрашивал я  т.к. когда пошел читать про этот https://docs.scrapy.org/en/latest/topics/feed-exports.html#std-setting-FEED_URI_PARAMS
источник

i

i in Scrapy
там в третьем пункте пишут что де:
Use %(spider_name)s in your feed URI:
scrapy crawl <spider_name> -o "%(spider_name)s.jl"
источник

AR

Andrey Rahmatullin in Scrapy
Угу
источник

СК

Семён Кашин... in Scrapy
i
запусти через settings без scrapyd, чтобы у тебя не было -o доп.параметра. тогда ты задачу "не запускается через scrapyd" переведешь в задачу "не запускается при задании через settings. И scrapyd тут будет не причем)
scrapy crawl crawler_name
источник

СК

Семён Кашин... in Scrapy
юез парметра -o не происходит сохранение
источник

AR

Andrey Rahmatullin in Scrapy
😹😹😹😹😹😹
источник

i

i in Scrapy
да, чтобы не было -o, а чтобы это задавалось в settings.py, добейся этого
источник

AR

Andrey Rahmatullin in Scrapy
Переслано от Andrey Rahmatullin
Я б не стал так делать и просто выставил FEEDS
источник

AR

Andrey Rahmatullin in Scrapy
Переслано от Семён Кашин...
Подробнее?
источник

AR

Andrey Rahmatullin in Scrapy
Переслано от Andrey Rahmatullin
Настройкой, а не -o
источник

AR

Andrey Rahmatullin in Scrapy
Переслано от Семён Кашин...
так я так и пытаюсь сделать. Через настройки в settings.py
источник