Size: a a a

2021 January 16

B

Bogdan in pro.elixir
Alexis IV Mobius
с пулбоем у меня были какие-то проблемы, но точно не помню какие
сегодня - завтра попробую напишу тогда) у меня где-то просто пул уже написан был на нем, откачу посмотрю.
источник

B

Bogdan in pro.elixir
А каким боком можно вернуть открытый сокет от socks5 и позже уже закинуть через него реквест ?
источник

B

Bogdan in pro.elixir
Клиент новый появился Finch, похоже через него что-то можно сделать такое
источник

VE

Vitaliy Esaulenko in pro.elixir
источник

VE

Vitaliy Esaulenko in pro.elixir
источник

LL

Lama Lover in pro.elixir
Bogdan
Вопрос есть, кравлю, есть socks5 proxy pool, каждый запрос отправляется в отдельном процессе, соответственно открывается каждый раз новое подключение, как можно держать подключения открытыми для всех процессов?
checkout pool можешь сделать. есть NimblePool для этого
источник

B

Bogdan in pro.elixir
Lama Lover
checkout pool можешь сделать. есть NimblePool для этого
Спасибо, вот Finch как раз Mint + NimblePool
источник

LL

Lama Lover in pro.elixir
Bogdan
Спасибо, вот Finch как раз Mint + NimblePool
Ну да, а socks5 разве http-совместимый?
Вроде нет
источник

B

Bogdan in pro.elixir
Да
источник

B

Bogdan in pro.elixir
Может я вопрос не понял
источник

LL

Lama Lover in pro.elixir
Ну ты вроде не можешь использовать http-клиент для создания socks5-соединения
источник

B

Bogdan in pro.elixir
Через Gun можно
источник

B

Bogdan in pro.elixir
Finch хз
источник

B

Bogdan in pro.elixir
Но в Mint его не было вроде
источник

LL

Lama Lover in pro.elixir
Bogdan
Через Gun можно
Это как?
источник

B

Bogdan in pro.elixir
{Tesla.Adapter.Gun, proxy: {:http, 'proxy_address', port}, timeout: 14_500}
источник

B

Bogdan in pro.elixir
{Tesla.Adapter.Gun, proxy: {:socks5, 'proxy_address', port}, timeout: 14_500}
источник

B

Bogdan in pro.elixir
Какой-то такой же ситаксис если без Теслы
источник

LL

Lama Lover in pro.elixir
А, ну тут каждое соединение имеет свой туннель. Можешь использовать HTTPoison, там уже готовый пулл процессов, не придётся самому ничего делать
источник

B

Bogdan in pro.elixir
Вообщем тут не в пуле дело. У меня каждый запрос идет в отдельном процессе через Broadway, там concurency стоит и rate limit, пул по сути нафиг не нужен получается. Я сейчас прикрутил на всякий случай от Finch пул нифига не поменялось.

Если прокси запускаю из операционки и запускаю кравлера то получается где-то 10-14 кравлов в секунду, при желании можно и больше выжать. Но соответственно он айпишник не меняет под каждый запрос.

Но когда ставлю коннект к прокси через какой-нибудь там Эликсировский клиент то выживаемся 1 кравл в секунду в лучшем случае. Вот хз почему так режится.
источник