Парсинг тредов python scrapy
Только начал изучать scrapy и столкнулся с проблемой перехода по ссылкам от треда к треду в коде html нет ссылки для перехода к следующему треду . Я попытался реализовать цикл while но он не работает
site = 'https://site.com/threads/'
app = 15000
while app < 15300:
app += 1
tenet = site + str(app)
next_page = response.css(tenet).extract_first()
if next_page:
yield scrapy.Request(
response.urljoin(next_page),
callback=self.parse)