scrapy_python | Unsorted

Telegram-канал scrapy_python - Scrapy

1045

Чат создан чтобы делиться опытом о Scrapy/Python и другими парсинг технологиями. Вежливость и уважение к другим участникам группы. Троллинг не приветствуется. FAQ: https://github.com/bulatbulat48/ru-scrapy-python Работа: t.me/scrapy_jobs

Subscribe to a channel

Scrapy

Ну, у моего коллеги немного шиза по поводу этой версии, и он её не совсем в состоянии объяснить: думал, мб у кого-то ещё есть такое

Читать полностью…

Scrapy

"3" - простое число, а "12" - не, ой вэй, не по фэншую...

Читать полностью…

Scrapy

Пробовал, там ответ на гет запрос приходит хтмл ращметка, а при скроллинге - посылается такой же запрос на тот же адрес но аргументом с рэйнджом, типо cursor=10, где 10 это точка до куда рендерить. Но динамика не проблема, проблема в том что мне не как не попасть на сайт )
Постманом идёт...

Читать полностью…

Scrapy

попробуй найти их апи
через ф12 браузере потыкай на сайте куданить, посмотри куда фронт кидает запросы

Читать полностью…

Scrapy

А сразу писать в чем суть работы, нет ?

Читать полностью…

Scrapy

бггг, ну да, ппц, как искать надо 😂

Читать полностью…

Scrapy

Ладно, уже разобрался

Читать полностью…

Scrapy

Обожаю zyte за то как они умело скрывают свои цены

Читать полностью…

Scrapy

нехрен флудить, когда у модера хреновое настроение

Читать полностью…

Scrapy

ну да, просто одна строчка в parse()
if not resp.body: return

Читать полностью…

Scrapy

или картинки скачивать

Читать полностью…

Scrapy

yield Request(url, meta={“from_spider”: True})

Читать полностью…

Scrapy

Второе предложение не понял, честно говоря

Читать полностью…

Scrapy

В принципе можно йилдить none

Читать полностью…

Scrapy

У меня в коде в таких ситуациях обычно идёт
yield ...
return

Читать полностью…

Scrapy

вот когда уберут гил и добавят джит тогда обосремся

Читать полностью…

Scrapy

С цифрой что то не так наверное

Читать полностью…

Scrapy

Мб немного не по теме чата: есть ли тут противники питона 3.12?

Читать полностью…

Scrapy

Привет, пытаясь спарсить такой сайт: tap.az. Не в какую не поддается )), всё возврашает 204. Пробавал куки, хедеры - ноль результат... Менял агента, ставил scrapy_cloudflare_middleware не помогло

Читать полностью…

Scrapy

Еще и саппорт через день отвечает

Читать полностью…

Scrapy

Просто везде видел это "try free trial", а во сколько оно обойдётся только в менюшке искать :D

Читать полностью…

Scrapy

хм, а в чем выражается "скрывание"?
там же в менюшке ссыль на цены.... или что то не то?

Читать полностью…

Scrapy

Дак есть же http://t.me/scrapy_jobs

Читать полностью…

Scrapy

@Keeapo
щас РО пропишу "за такие приколы"

Читать полностью…

Scrapy

тогда проще может быть действительно без мидлвари

Читать полностью…

Scrapy

от пайплайнов или мидлварей
например переводы

Читать полностью…

Scrapy

а какие ещё бывают если не от паука?

Читать полностью…

Scrapy

В мидлварях можно фильтровать то, что будет обрабатывать паучёк, да

Читать полностью…

Scrapy

или у мидлвари можно отфильтровать ответы для запросов паука? если только в мету реквеста добавлять пометку типа что реквест от паука

Читать полностью…

Scrapy

ну там я еще ответы приходят у которых пустое тело это норм

Читать полностью…
Subscribe to a channel