Python实战:将爬虫获取到的数据存到数据库中
import sqlite3
# 假设item是爬虫爬取的数据项,具有以下结构
item = {
'id': '123',
'name': 'Example Item',
'price': '999',
'category': 'electronics'
}
# 连接到SQLite数据库(如果数据库不存在,则会自动创建)
conn = sqlite3.connect('database.db')
cursor = conn.cursor()
# 创建表格(如果表格不存在)
cursor.execute('''
CREATE TABLE IF NOT EXISTS items (
id TEXT PRIMARY KEY,
name TEXT,
price REAL,
category TEXT
)
''')
# 插入数据
query = 'INSERT OR IGNORE INTO items (id, name, price, category) VALUES (?, ?, ?, ?)'
cursor.execute(query, (item['id'], item['name'], item['price'], item['category']))
# 提交事务并关闭连接
conn.commit()
conn.close()
这段代码演示了如何将爬虫获取的数据项存储到SQLite数据库中。首先,它连接到数据库,然后创建一个名为items
的表格(如果表格不存在的话),接着插入数据,并在最后关闭数据库连接。这是一个简化的例子,实际应用中需要根据爬虫的具体行为和数据结构进行适配。
评论已关闭