scrapy_python | Unsorted

Telegram-канал scrapy_python - Scrapy

1045

Чат создан чтобы делиться опытом о Scrapy/Python и другими парсинг технологиями. Вежливость и уважение к другим участникам группы. Троллинг не приветствуется. FAQ: https://github.com/bulatbulat48/ru-scrapy-python Работа: t.me/scrapy_jobs

Subscribe to a channel

Scrapy

сомневаюсь, что как в django - if request.method=='POST':, как сделать это тут?

Читать полностью…

Scrapy

можно подробнее пожалуйста

Читать полностью…

Scrapy

упс,
https://api.fix-price.com/buyer/v1/product/in/kosmetika-i-gigiena/ukhod-za-polostyu-rta?page=1&limit=24&sort=sold

Читать полностью…

Scrapy

https://fix-price.com/catalog/kosmetika-i-gigiena/ukhod-za-polostyu-rta/

Читать полностью…

Scrapy

ссылку на страничку скинуть?

Читать полностью…

Scrapy

значит вы что-то не передаёте что передаёт браузер

Читать полностью…

Scrapy

Я бы начал с проверки урла, затем заголовков, только потом кук

Читать полностью…

Scrapy

мне получается нужно взять куки с сайта, как и хедеры, передать их в файле?

Читать полностью…

Scrapy

в общем все, что он опрокидывает дб в твоем реквесте

Читать полностью…

Scrapy

хорошо, теперь как мне их достать?)
пока создал отдельный файлик, потому в scrapy я получаю пустой список, а тут хоть видно, что не так

Читать полностью…

Scrapy

окей, я нашел
https://api.fix-price.com/buyer/v1/product/in/kosmetika-i-gigiena/ukhod-za-polostyu-rta?page=1&limit=24&sort=sold

24 записи на одной страничке

Читать полностью…

Scrapy

я бы попробовал ассоциативно соотнести как какой-то вызов влияет на конкретный элемент
тот, что ты скинул вроде как бы подходит, однако первый элемент со скрина выше ему не соответствует, а относится ко второму (ополаскиватель)
в общем да, тут нужно конкретно просмотреть

Читать полностью…

Scrapy

Нет, нужно смотреть на все

Читать полностью…

Scrapy

а точно ли тот урл? по идее banner может и про попап с рекламой говорить

Читать полностью…

Scrapy

что во вкладке response?

Читать полностью…

Scrapy

https://developer.mozilla.org/en-US/docs/Web/HTTP/Methods

Читать полностью…

Scrapy

да, до урла надо было проверять метод

Читать полностью…

Scrapy

обращаюсь к этой апишке

Читать полностью…

Scrapy

Екатерина, пожалуйста, нажмите на кнопку ниже в течение указанного времени, иначе вы будете кикнуты. Спасибо! (60 сек)
При поддержке 1inch Network

Читать полностью…

Scrapy

на какой странице увидеть этот запрос?

Читать полностью…

Scrapy

при передачи хедеров и куков получаю все так же bad request, скорее всего если я авторизуюсь, и передам токен, то так сразу же получится, но можно ведь и без авторизации, раз я могу увидеть эти данные на сайте в ответе апишки

Читать полностью…

Scrapy

по идее да, но я бы изучил насколько они там "живучие"

Читать полностью…

Scrapy

а вообще вот способы например на селене получать результаты

честно говоря не тыкал, но если развить тему, то думаю можно in-memory складировать, авось даже фильтровать

https://stackoverflow.com/questions/65350034/selenium-python-get-network-response-body

Читать полностью…

Scrapy

посмотри куки, хедеры

Читать полностью…

Scrapy

и в response все есть

Читать полностью…

Scrapy

да, там в конце в url'ке указано "limit=15", и только 15 записей

Читать полностью…

Scrapy

А лучше искать поиском

Читать полностью…

Scrapy

там их несколько, по-моему в двух есть данные, я так понимаю нужно смотреть на те, которые помечаются как post-запрос

Читать полностью…

Scrapy

значит так и должно быть

Читать полностью…

Scrapy

вот я нахожу апишку, но почему я получаю пустой список?

Читать полностью…
Subscribe to a channel