scrapy_python | Unsorted

Telegram-канал scrapy_python - Scrapy

1045

Чат создан чтобы делиться опытом о Scrapy/Python и другими парсинг технологиями. Вежливость и уважение к другим участникам группы. Троллинг не приветствуется. FAQ: https://github.com/bulatbulat48/ru-scrapy-python Работа: t.me/scrapy_jobs

Subscribe to a channel

Scrapy

озон пускает без авторизации. Правда json мусорные. https://api.ozon.ru?url=/products/{article}

Читать полностью…

Scrapy

ой, как же мне нравятся неопределенные мета-вопросы :)

Читать полностью…

Scrapy

у тиктока есть api, и куча оберток, и есть кажись обертка об playwright, котора может выгрузить судя по примеру трендовые видосики: https://github.com/davidteather/TikTok-Api
(сам я не проверял, но вангую оно живое и работает, судя по коду и issues).

Читать полностью…

Scrapy

Почему все так сильно против силениума?

Читать полностью…

Scrapy

Не понял, обьясните в смысле заменить? И что за парсель? 🤨

Читать полностью…

Scrapy

а селениум на плейрайт

Читать полностью…

Scrapy

Добрый день 💃
Подскажите, парсю tiktok через selenium и beautiful soup, хочу достать трендовые видео:

from selenium import webdriver
from bs4 import BeautifulSoup
import time

driver = webdriver.Chrome()
driver.get("https://www.tiktok.com/discover/location-trends?lang=en")
time.sleep(1)

soup = BeautifulSoup(driver.page_source, 'html.parser')
videos = soup.find_all('div', {'class': ' css-at0k0c-DivWrapper e1cg0wnj1'})

print(len(videos))
for video in videos:
print(video.a['href'])

однако в скачанном html такой класс
'class': ' css-at0k0c-DivWrapper e1cg0wnj1'

просто отсутствует, как и вообще весь div с контентом, что делать? 😓

Читать полностью…

Scrapy

С данными либами что андей написал при реквесте 403 status code, нужна полная имитация браузера и чтобы джс на фоне выполнялся для получения лицензии или вылезет капча

Читать полностью…

Scrapy

выше Андрей написал. Ну и, в догонку - для начала надо убедиться на 100%, что реквестами нельзя победить...

Читать полностью…

Scrapy

Берите puppeteer а лучше сразу playwright

Читать полностью…

Scrapy

все не так
1.тормозной
2. глюкавый
3. память жрет как не в себя....

не, я, так то, понимаю, что, иногда - без него совсем никак, но, это совсем уж редкие случаи

Читать полностью…

Scrapy

Подскажите как скрыть от сайта режим --headless , для хромдрайвера, подсовывает капчу, имитацию клика сделал через экшн но не проходит проверка

Читать полностью…

Scrapy

кто selenium использует, подскажите что делать если в class есть пробелы

cke_wysiwyg_div cke_reset cke_enable_context_menu cke_editable cke_editable_themed cke_contents_ltr
. Селениум такие классы найти не может

Читать полностью…

Scrapy

наследуюсь от scrapy.pipelines.images.ImagesPipeline

Читать полностью…

Scrapy

FILES_EXPIRES это про (uptodate)

Читать полностью…

Scrapy

ну, я, работал

Читать полностью…

Scrapy

Всем привет
кто то работал с ozon и я. маркетом ?

Читать полностью…

Scrapy

и дополнительно устарел scrapy-selenium

Читать полностью…

Scrapy

А нашёл библиотеку parsel

Читать полностью…

Scrapy

но там поди тупо бан

Читать полностью…

Scrapy

Замените суп на парсель и возможно вам помогут)

Читать полностью…

Scrapy

будто в них этого нет

Читать полностью…

Scrapy

Ищу партнеров в команду для получения доп.дoxoда
Удаленно, с телефона, или компьютера
За деталями пишите в ЛС

Читать полностью…

Scrapy

А что порекомендуете на замену? Чтоб также можно было куки для логина использовать

Читать полностью…

Scrapy

Каждый раз когда вы про селениуем пишете я ощущаю тоже самое, как про BS вопросики тут.

Читать полностью…

Scrapy

Содержательно😂 а что не так?

Читать полностью…

Scrapy

это разные классы...

Читать полностью…

Scrapy

да, было в настройках HTTPCACHE_ENABLED = True,
выключил, начал скачивать

Читать полностью…

Scrapy

а, нашёл, оно специально пишет cached когда HttpCacheMiddleware его закешировал, т.е. как я сразу и подумал

Читать полностью…

Scrapy

это у вас какой-то свой пайплайн?

Читать полностью…
Subscribe to a channel