【爬虫逆向】Python逆向采集猫眼电影票房数据
要使用Python进行逆向采集猫眼电影票房数据,你可以使用Selenium和ChromeDriver来模拟人的行为,加载和解析页面。以下是一个简化的例子,展示了如何采集特定页面的数据:
from selenium import webdriver
import time
# 设置ChromeDriver的路径
driver_path = 'path/to/your/chromedriver'
# 配置ChromeDriver
options = webdriver.ChromeOptions()
options.add_argument('--headless') # 无界面模式
# 初始化WebDriver
driver = webdriver.Chrome(executable_path=driver_path, options=options)
# 打开目标网页
driver.get('https://maoyan.com/board/4')
# 等待页面加载完成
time.sleep(5)
# 获取电影票房数据
elements = driver.find_elements_by_css_selector('.board-wrapper li')
# 提取数据
data = [[elem.find_element_by_css_selector('.movie-item-info a').text,
elem.find_element_by_css_selector('.movie-item-info span').text.strip(),
elem.find_element_by_css_selector('.movie-item-number').text.strip('日票量:')]
for elem in elements]
# 打印数据
for item in data:
print(item)
# 关闭浏览器
driver.quit()
请注意,你需要根据你的环境配置driver_path
,并确保你有足够的权限运行ChromeDriver。另外,这个例子使用了无头模式(headless),你可以移除options.add_argument('--headless')
来查看浏览器窗口以调试。
这段代码会打开猫眼电影票房排行榜页面,并提取电影名称、上映时间和日票房数据,然后将其打印出来。实际应用中,你可能需要进一步处理数据,例如保存到文件或数据库中。
评论已关闭