【Python爬虫】酒店信息爬取(包括10000+酒店信息条目,80000+图片)
由于原始代码较为复杂且涉及网络爬取,下面提供一个简化的示例来说明如何使用Python爬取酒店信息和图片的基本思路。
import requests
from bs4 import BeautifulSoup
import os
# 假设我们只爬取一个酒店的信息和图片
hotel_url = 'http://www.example.com/hotel'
images_url = 'http://www.example.com/hotel/images'
# 发送请求获取页面内容
response = requests.get(hotel_url)
hotel_soup = BeautifulSoup(response.text, 'html.parser')
# 解析酒店信息
hotel_name = hotel_soup.find('h1', class_='hotel-name').text
hotel_address = hotel_soup.find('div', class_='hotel-address').text
# 保存酒店信息到文件或数据库
with open('hotel_info.txt', 'w', encoding='utf-8') as file:
file.write(f'Name: {hotel_name}\nAddress: {hotel_address}')
# 发送请求获取图片链接
images_response = requests.get(images_url)
images_soup = BeautifulSoup(images_response.text, 'html.parser')
# 解析图片链接
image_urls = [image['src'] for image in images_soup.find_all('img', class_='hotel-image')]
# 创建文件夹保存图片
os.makedirs('hotel_images', exist_ok=True)
# 下载图片
for index, image_url in enumerate(image_urls):
response = requests.get(image_url)
with open(f'hotel_images/image_{index}.jpg', 'wb') as file:
file.write(response.content)
print("酒店信息和图片爬取完成。")
这个示例展示了如何使用requests库获取网页内容,使用BeautifulSoup进行页面解析,以及如何使用os库来创建文件夹和保存文件。在实际应用中,你需要根据目标网站的具体结构调整选择器和解析方法。
评论已关闭