scrapy_python | Unsorted

Telegram-канал scrapy_python - Scrapy

1045

Чат создан чтобы делиться опытом о Scrapy/Python и другими парсинг технологиями. Вежливость и уважение к другим участникам группы. Троллинг не приветствуется. FAQ: https://github.com/bulatbulat48/ru-scrapy-python Работа: t.me/scrapy_jobs

Subscribe to a channel

Scrapy

https://github.com/daijro/camoufox

Читать полностью…

Scrapy

А сам плейврайт не проходит?

Читать полностью…

Scrapy

Тоже кстати такие же мысли посещали. Ну они наверно всех посещают.

Читать полностью…

Scrapy

На большинство вопросов чатгпт дает ответы :)

Читать полностью…

Scrapy

тю, спамер пробегал, что ли? :)

Читать полностью…

Scrapy

@Mifody пользуясь случаем передаю привет.

Читать полностью…

Scrapy

Ладно, спасибо в общем

Читать полностью…

Scrapy

разве что это был именно словарь, а не список словарей

Читать полностью…

Scrapy

def process_spider_exception(self, response, exception, spider):
return [Test1Item(name='error')]

хотя такое работает

Читать полностью…

Scrapy

я думал вам просто логировать надо

Читать полностью…

Scrapy

process_spider_exception модифицировать надо, я так понимаю

Читать полностью…

Scrapy

хочу выводить в оутпут { "error": "что-то" }, если происходит любая ошибка (http либо внутри обработки запроса)

Читать полностью…

Scrapy

чатжпт предложил перенаправлять с signals.spider_error на мой обработчик

Читать полностью…

Scrapy

Мне казалось что был тест, но я его не вижу, значит не должно работать

Читать полностью…

Scrapy

errback не срабатывает от исключений внутри колбека?

Читать полностью…

Scrapy

первый запрос проходит всегда, но дальнейшие нет


решил проблему, использую прокси

Читать полностью…

Scrapy

здравствуйте, нужно обойти Cloudflare при скрепинге, есть идеи как?

использую playwright

Читать полностью…

Scrapy

Добро пожаловать в эру ИИ)

Читать полностью…

Scrapy

Обидно конечно за чат, раньше был мегаактивным, а сейчас стих

Читать полностью…

Scrapy

ээээ, ни пониль ... 👀
я че то опять проспал 😂

Читать полностью…

Scrapy

итерейбл, как и в колбэках

Читать полностью…

Scrapy

Да, я как-то недопонял, что там именно список надо

Читать полностью…

Scrapy

я словарь пробовал, и с ним не работало, именно с итемом работает

Читать полностью…

Scrapy

итем оттуда не поменять

Читать полностью…

Scrapy

ерунда короче какая-то выходит, я на сигнал могу попасть, но из него не получается менять оутпут

Читать полностью…

Scrapy

Про сигналы не помню, может тоже подходит

Читать полностью…

Scrapy

Не ну давайте задачу опишем

Читать полностью…

Scrapy

Возможно есть открытый баг, у нас их много про еррбэки от одного пользователя

Читать полностью…

Scrapy

class MySpider(scrapy.Spider):
name = "myspider"
allowed_domains = ["somewebsite.com"]

def start_requests(self):
yield scrapy.Request(
url,
callback=self.parse,
errback=self.errback,
dont_filter=True,
)

def errback(self, failure: Failure):
logging.error('Error happened')
logging.error(failure.getTraceback())
yield {"error": str(failure.value)}

def parse(self, response):
1 / 0

Читать полностью…

Scrapy

LinkedIn cookie account creators, please contact me.

Читать полностью…
Subscribe to a channel