scrapy_python | Unsorted

Telegram-канал scrapy_python - Scrapy

1045

Чат создан чтобы делиться опытом о Scrapy/Python и другими парсинг технологиями. Вежливость и уважение к другим участникам группы. Троллинг не приветствуется. FAQ: https://github.com/bulatbulat48/ru-scrapy-python Работа: t.me/scrapy_jobs

Subscribe to a channel

Scrapy

может он про настройку COOKIES_ENABLED

Читать полностью…

Scrapy

естественно, какой логин с отключенными куками

Читать полностью…

Scrapy

если "нету" то это уже проблема.
вангую, что, не так запрос шлется. в скрапи там что то тип FormRequest.... или как то так. Никогда не задумывался над этим заголовком, всегда сам ставился

Читать полностью…

Scrapy

response.request.headers это не то что идёт в провод

Читать полностью…

Scrapy

ищите следующую проблему

Читать полностью…

Scrapy

но он как будто тогда не передаётся. По крайней мере не получется залогиниться

Читать полностью…

Scrapy

я в постмане руками этот хедер указывал, брал значение со скрепи

Читать полностью…

Scrapy

Всем привет, может кто-нибудь с таким сталкивался? При логине на сайте через постман всё здорово работает. Через скрепи возвращает 400 статус. Пока смог выяснить что это скорее всего связано с хедером Content-Length. Без него не логинит ни там ни там, с ним через постман логинит а через скрепи - 400 статус

Читать полностью…

Scrapy

Заканчиваю набор в команду по удалённому заработку, осталось 3 места, всем кому интересно пишите + в лс за подробностями, от Вас нужно только желание зарабатывать, и иметь до часу свободного времени в день, гарантированная прибыль от 80 долларов в день.

Читать полностью…

Scrapy

⚠️⚠️⚠️⚠️⚠️⚠️
В пoиcкe людeй для cтaбильнoгo - пacивнoгo зapaбoткa в cфepe: crypto.
🔺 Heт oпытa? OБУЧAЮ, бepy % oт зapaбoткa зa инфopмaцию пo зapaбoткy.
🔺 Умнoжeниe кaпитaлa oт 7-10% в cyтки, бeз pиcкoв!
Пo вceм интepecyющим вoпpocaм пишитe -->
@Alexander9015

Читать полностью…

Scrapy

(но это не точно - толи это они им делали презенташку, толи это их сайт, хз)

Читать полностью…

Scrapy

а еще, это вот они или это контора-интегратор? https://rls-aurora.ru/Help

Читать полностью…

Scrapy

не правильно понял, виноват, почитаю тогда обязательно

Читать полностью…

Scrapy

порт чего, там все инструкции не про скрапи вообще

Читать полностью…

Scrapy

вот она, самая первая версия, древняя и кое как работающая

Читать полностью…

Scrapy

но что значит добавил? эта мидлварь включена по дефолту

Читать полностью…

Scrapy

добавил 'scrapy.downloadermiddlewares.cookies.CookiesMiddleware': 700 в настройки спайдера и заработало. Похоже дело было в куках, они не передавались при редиректе после запроса. Всем спасибо за помощь

Читать полностью…

Scrapy

ещё раз: вы сами придумали что проблема в этом

Читать полностью…

Scrapy

я смотрел response.request.headers. Если самому не передавать, то Content-Length нету

Читать полностью…

Scrapy

это вы сами придумали, причём безосновательно

Читать полностью…

Scrapy

верно, указывать его руками в скрапи нельзя

Читать полностью…

Scrapy

а значения отличаются?)

Читать полностью…

Scrapy

Может у кого есть парсер auto.ru? Нужен именно каталог марок, моделей, их модификаций

Читать полностью…

Scrapy

@AlexPenkin911, пожалуйста, нажмите на кнопку ниже в течение указанного времени, иначе вы будете кикнуты. Спасибо! (60 сек)
При поддержке 1inch Network

Читать полностью…

Scrapy

да даже если б и был, достаточно интересно что определенные защиты у них есть

но в конкретно моем случае нужно выбирать данные из озона, вб, ситилинка и ямаркета

не думаю, что там будут апишки, а вот вероятность наткнуться на защиты - вполне себе есть

потому решено было выбрать скраппинг

Читать полностью…

Scrapy

а, я залез на сайт выше, походу интегратор)

Читать полностью…

Scrapy

а у них точно api нет? это же государственная штука, они обычно пилят api, с учетом что у них есть такое, вряд ли они это без api делали: https://app.rlsnet.ru/api/storage/products_files/pdf/16_prezentaciya-iss-dlya-farmacevticeskix-specialistov.pdf

Читать полностью…

Scrapy

код можете псевдокодом считать

Читать полностью…

Scrapy

придется или порт искать или на пайтоне писать...

Читать полностью…

Scrapy

ну короче общий совет - читайте там линк выше по dynamic content

Читать полностью…
Subscribe to a channel