Size: a a a

2020 February 17

AP

Andrew Plekhanoff in Sys-Admin Help
Максим
Ребята всем привет, может кто имеет подобный опыт
Суть в том, что при запросе html странички на aliexpress через curl - их защита кидает на страничку логина. Типа я парсю сайт. На самом деле я просто хочу собрать инфу о товаре, инициируя скрипт вручную. То есть нагрузки на их сайт нет

Ктото в курсе как решить проблему? Может повесить прокси на сервак или еще че?
У курла есть авторизация и куки... дальше сам)
источник

М

Максим in Sys-Admin Help
я даже не уверен что это из-за апдейта
источник

М

Максим in Sys-Admin Help
Andrew Plekhanoff
У курла есть авторизация и куки... дальше сам)
пробовал получить файл кук через браузер на компе, залил на сервак, подключил, подменил юзер агент - нифига)
источник

EL

Erick Lee in Sys-Admin Help
Максим
пробовал получить файл кук через браузер на компе, залил на сервак, подключил, подменил юзер агент - нифига)
взять из девтулс хрома copy as curl и смотреть, на каком этапе начинает редиректить
источник

LP

Little Princess in Sys-Admin Help
никто не подскажет, что я делаю не так? Хочу иметь read write доступ к смонтированному разделу не только для рута, но не дает. Права же на файлы верно установлены
источник

LP

Little Princess in Sys-Admin Help
(вроде)
источник

LP

Little Princess in Sys-Admin Help
ос - freebsd, поэтому юзаю lklfuse команду вместо mount (попытка монтировать с mount выдает Operation not supported by device)
источник

М

Максим in Sys-Admin Help
Erick Lee
взять из девтулс хрома copy as curl и смотреть, на каком этапе начинает редиректить
пофиг кидает на логин…)
источник

EW

Evgeniy Wolf in Sys-Admin Help
Коллеги, у меня слегка риторический вопрос. Я не часто работаю с VPS, но когда работаю — почти всегда замечаю, что по какой-то чудесной причине в 99% случаев, на VPS отсутствует СВОП. Они это специально делают, что бы оперативки побольше покупали по поводу и без или на это есть какая-то другая веская причина?
источник

AP

Andrew Plekhanoff in Sys-Admin Help
Evgeniy Wolf
Коллеги, у меня слегка риторический вопрос. Я не часто работаю с VPS, но когда работаю — почти всегда замечаю, что по какой-то чудесной причине в 99% случаев, на VPS отсутствует СВОП. Они это специально делают, что бы оперативки побольше покупали по поводу и без или на это есть какая-то другая веская причина?
А нафиг он вообще нужен?)
источник

EW

Evgeniy Wolf in Sys-Admin Help
Andrew Plekhanoff
А нафиг он вообще нужен?)
ну... тут просто про парсеры речь зашла. Я например парсеры всякие на локальном компе не запускаю обычно, на на VPS'ке он может и 30Гб оперативки сожрать, легко
источник

EW

Evgeniy Wolf in Sys-Admin Help
не брать же VPS с 30Гб оперативки для этого
источник

AP

Andrew Plekhanoff in Sys-Admin Help
Evgeniy Wolf
не брать же VPS с 30Гб оперативки для этого
Парсер оптимизировать, не? Представь скорость с 30гб в свопе
источник

EW

Evgeniy Wolf in Sys-Admin Help
Andrew Plekhanoff
Парсер оптимизировать, не? Представь скорость с 30гб в свопе
нафиг оптимизацию, его 1 раз написал, запустил, сводные данные посмотрел да выкинул... он сам по себе не нужен сто лет...
источник

EW

Evgeniy Wolf in Sys-Admin Help
иными словами, они "одноразовые" и помогают в их написании мне не редко те, кто программировать учиться... что бы совсем бесполезную работу не делать, хотя бы парсеры пишут (на всём подряд, ПХП, Питон, Жава, даже на руби 1 видел...)
источник

AP

Andrew Plekhanoff in Sys-Admin Help
Evgeniy Wolf
иными словами, они "одноразовые" и помогают в их написании мне не редко те, кто программировать учиться... что бы совсем бесполезную работу не делать, хотя бы парсеры пишут (на всём подряд, ПХП, Питон, Жава, даже на руби 1 видел...)
А что мешает их одноразово и пускать с того места, где и написали?)
источник

EW

Evgeniy Wolf in Sys-Admin Help
Andrew Plekhanoff
А что мешает их одноразово и пускать с того места, где и написали?)
мой деревянный ящик и без парсера кое-как вывозит всё, что запущено, а если я там ещё и парсер запущу — никакой своп не поможет...
источник

EW

Evgeniy Wolf in Sys-Admin Help
железки не слишком новые, никак не соберусь духом и финансами что-то поприличнее купить
источник

AP

Andrew Plekhanoff in Sys-Admin Help
Evgeniy Wolf
ну... тут просто про парсеры речь зашла. Я например парсеры всякие на локальном компе не запускаю обычно, на на VPS'ке он может и 30Гб оперативки сожрать, легко
На впске как правило общее ядро на всех, там просто своп не увидишь
источник

AP

Andrew Plekhanoff in Sys-Admin Help
Раньше ещё хлеще было: апач один на всех)
источник