Size: a a a

2020 January 15

Y

Yurii in Scrapy
Михаил Синегубов
глянть что браузер шлет в этом поле
Content-Type: application/json; charset=utf-8
источник

МС

Михаил Синегубов in Scrapy
Yurii
Content-Type: application/json; charset=utf-8
ага, а ты шлешь это?
источник

Y

Yurii in Scrapy
Михаил Синегубов
ага, а ты шлешь это?
Ничего🧐Почему-то с этим не получилось. Еще сейчас попробую.
источник

i

ildar in Scrapy
смутно помню у меня когда-то слало запрос на другой немного урл, со словом ajax что-ли, и тогда возвращало json
источник

S

Sergey in Scrapy
понял спасибо ребят
источник

i

ildar in Scrapy
еще можешь попробовать FormRequest.from_response() бахнуть туда, может он сам какое-то поле подтянет
источник

Y

Yurii in Scrapy
headers={'Content-Type': 'application/json; charset=utf-8'} добавил
INFO: Ignoring response <502
источник

i

ildar in Scrapy
попробуй без utf, у меня автоматический заголовок вот так сформировало как-то из save as curl:

   'content-type': "application/json",
   'accept': "text/plain, */*; q=0.01",
   'cache-control': "no-cache",
источник

i

ildar in Scrapy
и вообще, чего гадать - сделай реально save as curl и скорми в curl to python
источник

Y

Yurii in Scrapy
ildar
и вообще, чего гадать - сделай реально save as curl и скорми в curl to python
Там еще такое есть  'X-Requested-With': 'XMLHttpRequest',
И ссылку на json мне запрос не дает
Самое интересное что requests парсит json норм
r = requests.post('url', json=data)
источник

Y

Yurii in Scrapy
Мб сайт просто такой, ну ладно есть варианты requests юзать или xml парсить, но он не хочет просто так парсить response.xpath, надо немного поизвращаться
источник

МС

Михаил Синегубов in Scrapy
дай сайт, можно в личку, аж интеерсно стало
источник

i

ildar in Scrapy
а ты user agent точно правильный ему кормишь?
источник

i

ildar in Scrapy
Михаил Синегубов
дай сайт, можно в личку, аж интеерсно стало
потом расскажешь, чо за фигня была)
источник

МС

Михаил Синегубов in Scrapy
кароче
источник

МС

Михаил Синегубов in Scrapy
FormRequest - с json что то не задружился, не докопался почему, спать охота, работают:
yield scrapy.Request(url='https://www.', method='POST', body=data, callback=self.parse_req, headers=headers)
тут в data строка полученная через json.dump

yield scrapy.http.JsonRequest(url='https://www.', data=data_json, callback=self.parse_form_data, headers=headers)
тут уже data_json словарик
источник

АП

Агент Печенька in Scrapy
Михаил Синегубов
FormRequest - с json что то не задружился, не докопался почему, спать охота, работают:
yield scrapy.Request(url='https://www.', method='POST', body=data, callback=self.parse_req, headers=headers)
тут в data строка полученная через json.dump

yield scrapy.http.JsonRequest(url='https://www.', data=data_json, callback=self.parse_form_data, headers=headers)
тут уже data_json словарик
Было такое у меня, да.
источник

АП

Агент Печенька in Scrapy
Тоже лень разбираться было.
источник

МС

Михаил Синегубов in Scrapy
а там и разбираться не чего, formdata должна быть формата name1=val1&name2=val2
источник
2020 January 16

B

Bulatbulat48 in Scrapy
Payload - Json.dumps, Form data - urlencoded
источник