Size: a a a

Node.js — русскоговорящее сообщество

2019 October 19

И

Илья | 😶 in Node.js — русскоговорящее сообщество
Yaroslav Kuznetsov
Тут вопрос именно работы граббера
А разница ?
источник

НК

Назар Калитюк in Node.js — русскоговорящее сообщество
Yaroslav Kuznetsov
Всем привет, вопрос, как лучше организовать работу граббера сайта, есть сайт, на нем переоидически выкладывают товар, мне нужно как можно быстрее забирать данные, на ум приходит только запуск крона с моим грабером каждые 2-3 минуты
можно не запускать, а просто сидеть на сайте и обновлять страницу
источник

x

x1dan in Node.js — русскоговорящее сообщество
Yaroslav Kuznetsov
Всем привет, вопрос, как лучше организовать работу граббера сайта, есть сайт, на нем переоидически выкладывают товар, мне нужно как можно быстрее забирать данные, на ум приходит только запуск крона с моим грабером каждые 2-3 минуты
А ты проверял есть ли у них апишка? Есть ли у них rss лента или еще что либо
источник

YK

Yaroslav Kuznetsov in Node.js — русскоговорящее сообщество
Назар Калитюк
можно не запускать, а просто сидеть на сайте и обновлять страницу
Да я смотрю тут просто мастер сарказма
источник

YK

Yaroslav Kuznetsov in Node.js — русскоговорящее сообщество
x1dan
А ты проверял есть ли у них апишка? Есть ли у них rss лента или еще что либо
Rss и апи нет
источник

x

x1dan in Node.js — русскоговорящее сообщество
контент действительно каждые 3 минуты обновляется?
источник

x

x1dan in Node.js — русскоговорящее сообщество
может быть раз в 30 минут будет более чем достаточно
источник

НК

Назар Калитюк in Node.js — русскоговорящее сообщество
Yaroslav Kuznetsov
Да я смотрю тут просто мастер сарказма
я про то, чтоб puppeеter сидел. А не заходил постоянно заново
источник

YK

Yaroslav Kuznetsov in Node.js — русскоговорящее сообщество
Назар Калитюк
я про то, чтоб puppeеter сидел. А не заходил постоянно заново
А, тогда сорян)) не понял сразу) сейчас гляну, спасибо)
источник

YK

Yaroslav Kuznetsov in Node.js — русскоговорящее сообщество
x1dan
может быть раз в 30 минут будет более чем достаточно
Может, я со временем посмотрю и конечно оптиизирую крон джоб
источник

НК

Назар Калитюк in Node.js — русскоговорящее сообщество
Yaroslav Kuznetsov
А, тогда сорян)) не понял сразу) сейчас гляну, спасибо)
если там без логинна то будет норм, иначе нужно будет контролить сессиию. + можно сделать отдельно сканер новых товаров, и уже забор данных.
источник

YK

Yaroslav Kuznetsov in Node.js — русскоговорящее сообщество
Назар Калитюк
если там без логинна то будет норм, иначе нужно будет контролить сессиию. + можно сделать отдельно сканер новых товаров, и уже забор данных.
Да логина нет, пошёл курить доки
источник

x

x1dan in Node.js — русскоговорящее сообщество
если без логина - то пупитер и не нужен
источник

YK

Yaroslav Kuznetsov in Node.js — русскоговорящее сообщество
Всем спасибо!
источник

VR

Vitaliy Rad in Node.js — русскоговорящее сообщество
https://github.com/brianc/node-postgres, норм или лучше орм секвелайз брать ?
источник

VR

Vitaliy Rad in Node.js — русскоговорящее сообщество
это как я понял все квери вручную писать. методы и т.д только в орм ?)
источник

GS

Grigorii K. Shartsev in Node.js — русскоговорящее сообщество
Совсем всырую не стоит. Лучше выбирать между ОРМ и Квери билдером
источник

GS

Grigorii K. Shartsev in Node.js — русскоговорящее сообщество
Если не хочется ОРМ, можно глянуть на knex
источник

VR

Vitaliy Rad in Node.js — русскоговорящее сообщество
Grigorii K. Shartsev
Если не хочется ОРМ, можно глянуть на knex
ну мне не то что не хочется, у меня там самые простые запросы будут, так не хочу нагружать ноду пакетами ), взять что попроще ...
источник

VR

Vitaliy Rad in Node.js — русскоговорящее сообщество
Grigorii K. Shartsev
Совсем всырую не стоит. Лучше выбирать между ОРМ и Квери билдером
и чтобы поддержка кода проще была )
источник