Size: a a a

2020 January 11

AR

Andrey Rahmatullin in Scrapy
т.е. без коллбэков
источник

AR

Andrey Rahmatullin in Scrapy
ну ради читаемости за -20% рпм можно конечно в некоторых случаях такое писать :)
источник

ЕJ

Евгений Jen in Scrapy
ну если быстро что то стянуть,
скрапи хорош если надо 5-10 типичных сайтов  парсить каждый день,
тогда да стандарт задает - можно моштабировать, нет зависимостити от кодера
а если что то разово или зеркало сайта
источник

ЕJ

Евгений Jen in Scrapy
если бы скрапи не на twisted написал а просто на потоках - цены бы ему небыло
источник

АП

Агент Печенька in Scrapy
Евгений Jen
если бы скрапи не на twisted написал а просто на потоках - цены бы ему небыло
Чушь. Асинхронность нормальная делается без потоков.
источник

AR

Andrey Rahmatullin in Scrapy
Евгений Jen
если бы скрапи не на twisted написал а просто на потоках - цены бы ему небыло
лол
источник

ЕJ

Евгений Jen in Scrapy
Агент Печенька
Чушь. Асинхронность нормальная делается без потоков.
много пишете на twisted?
источник

AR

Andrey Rahmatullin in Scrapy
Евгений Jen
ну если быстро что то стянуть,
скрапи хорош если надо 5-10 типичных сайтов  парсить каждый день,
тогда да стандарт задает - можно моштабировать, нет зависимостити от кодера
а если что то разово или зеркало сайта
источник

ЕJ

Евгений Jen in Scrapy
XD)
источник

ЕJ

Евгений Jen in Scrapy
источник

АП

Агент Печенька in Scrapy
Евгений Jen
много пишете на twisted?
Да, а что?
источник

ЕJ

Евгений Jen in Scrapy
сочуствую)
источник

АП

Агент Печенька in Scrapy
Типичная модель приложения которое активно трогает сеть.
источник

ЕJ

Евгений Jen in Scrapy
или завидую смотря как смотреть)
источник

АП

Агент Печенька in Scrapy
Любой велосипед на потоках будет хуже.
источник

ЕJ

Евгений Jen in Scrapy
хуже в чем?
источник

АП

Агент Печенька in Scrapy
В том что взаимодействе с сетью будет блокирующее.
источник

АП

Агент Печенька in Scrapy
В то время как в скрапи (и не только в нём) асинхронное не блокирующее.
источник

ЕJ

Евгений Jen in Scrapy
ага, ток при промышленом парсинге процессор не дорогой
дорогой диск
толку с этого
источник

ЕJ

Евгений Jen in Scrapy
особенно мелким и средним
источник