python-爬虫实例:将进酒,杯莫停!
import requests
from bs4 import BeautifulSoup
import re
def get_page(url):
try:
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'}
response = requests.get(url, headers=headers)
if response.status_code == 200:
return response.text
return None
except requests.RequestException:
return None
def parse_page(html):
soup = BeautifulSoup(html, 'html.parser')
title = soup.select('.product_name')[0].text
price = soup.select('.price_sale')[0].text
return {
'title': title,
'price': price
}
def main(url):
html = get_page(url)
if html:
data = parse_page(html)
print(f"商品名称: {data['title']}")
print(f"商品价格: {data['price']}")
if __name__ == '__main__':
url = 'https://www.example.com/product/12345'
main(url)
这段代码首先定义了一个get_page
函数,用于发送HTTP GET请求并获取页面内容。其中使用了请求头来伪装浏览器访问以绕过一些网站的反爬机制。如果请求成功,它会返回页面的HTML内容;如果请求失败,则返回None。
parse_page
函数使用BeautifulSoup来解析HTML内容,并提取商品名称和价格信息。
main
函数首先调用get_page
获取页面内容,然后调用parse_page
解析页面,并打印出商品名称和价格。
最后,如果这段代码被直接运行,它将会爬取示例URL指定页面的商品信息。
评论已关闭