Size: a a a

2020 January 17

iz

izzz zzi in Scrapy
Агент Печенька
Если sql написан правильно то да.
ну алхимия вроде генерит нормальные запросы
источник

АП

Агент Печенька in Scrapy
Ну да.
источник

R

Roma in Scrapy
Да там сложно ошибится - оно либо работает - либо нет
источник

МС

Михаил Синегубов in Scrapy
Вопрос производительности
источник

АП

Агент Печенька in Scrapy
Михаил Синегубов
Вопрос производительности
Померяй)
источник

R

Roma in Scrapy
вроде как sql alchemy - самая передовая - почти везде в проектах ее используют
источник

МС

Михаил Синегубов in Scrapy
Да ну, зануды вы 😒
Нет что бы сказать...
источник

iz

izzz zzi in Scrapy
Roma
вроде как sql alchemy - самая передовая - почти везде в проектах ее используют
а чанками пишешь?)
источник

R

Roma in Scrapy
Нет....
источник

ЕJ

Евгений Jen in Scrapy
Михаил Синегубов
Так возник вопрос: насколько обоснованно использовать db фреймворк для скрапи? При условии, что двиг базы жёстко прописан и меняться никогда не будет.
Я всегда считал, что нативный SQL всегда шустрее любого фреймворка...
что за сайт/задача что критична производительность?
источник

МС

Михаил Синегубов in Scrapy
Евгений Jen
что за сайт/задача что критична производительность?
50+ млн записей в базе. Скорость добавления достаточно важна.
Сайт не скажу, ибо не мое 🙂. Да и при чем тут сам сайт? Вопрос работы пайпа при прочих равных условиях
источник

R

Roma in Scrapy
Ну бери тогда ClickHouse и пиши на охеренных скоростях
источник

✏d

✏️ Oleksandr dntPanix |Worm| in Scrapy
Михаил Синегубов
Да ну, зануды вы 😒
Нет что бы сказать...
пиши руками!!!!
Запросы скл в стрингах с тройной ковычкой!
ТОВАРИЩ!
Не занимайся алхимией!
Это вредит построению коммунизма!
источник

ЕJ

Евгений Jen in Scrapy
Михаил Синегубов
50+ млн записей в базе. Скорость добавления достаточно важна.
Сайт не скажу, ибо не мое 🙂. Да и при чем тут сам сайт? Вопрос работы пайпа при прочих равных условиях
* мне больше просто интересно - что парсять моштабного, зачем нужно
источник

МС

Михаил Синегубов in Scrapy
Евгений Jen
* мне больше просто интересно - что парсять моштабного, зачем нужно
Ну, мой проект есть - парсинг инсты.
Там те же объемы будут.
Из крупно-популярного : объявы, социалки...
источник

АП

Агент Печенька in Scrapy
Михаил Синегубов
50+ млн записей в базе. Скорость добавления достаточно важна.
Сайт не скажу, ибо не мое 🙂. Да и при чем тут сам сайт? Вопрос работы пайпа при прочих равных условиях
При равных условиях без алхимии будет быстрее.
источник

МС

Михаил Синегубов in Scrapy
✏️ Oleksandr dntPanix |Worm|
пиши руками!!!!
Запросы скл в стрингах с тройной ковычкой!
ТОВАРИЩ!
Не занимайся алхимией!
Это вредит построению коммунизма!
Спасиб, товарисчь, твоей коммент очень важен и информативен для меня
источник

МС

Михаил Синегубов in Scrapy
Агент Печенька
При равных условиях без алхимии будет быстрее.
Угу, спс. Теперь бум думать как от него избавиться 😂
источник

АП

Агент Печенька in Scrapy
Михаил Синегубов
Угу, спс. Теперь бум думать как от него избавиться 😂
Включи эхо, в логе посмотри запросы которые она генерирует и перениси их.
источник

МС

Михаил Синегубов in Scrapy
Да не, тут вопрос просто переписать и не поломать😁. Ничего сложного, просто аккуратненько надо.
источник