重庆分公司,新征程启航
为企业提供网站建设、域名注册、服务器等服务
这期内容当中小编将会给大家带来有关使用python怎么爬取网站的购买记录,文章内容丰富且以专业的角度为大家分析和叙述,阅读完这篇文章希望大家可以有所收获。
创新互联专注于企业成都全网营销推广、网站重做改版、北海网站定制设计、自适应品牌网站建设、H5页面制作、商城系统网站开发、集团公司官网建设、成都外贸网站建设、高端网站制作、响应式网页设计等建站业务,价格优惠性价比高,为北海等各大城市提供网站开发制作服务。
python的数据类型:1. 数字类型,包括int(整型)、long(长整型)和float(浮点型)。2.字符串,分别是str类型和unicode类型。3.布尔型,Python布尔类型也是用于逻辑运算,有两个值:True(真)和False(假)。4.列表,列表是Python中使用最频繁的数据类型,集合中可以放任何数据类型。5. 元组,元组用”()”标识,内部元素用逗号隔开。6. 字典,字典是一种键值对的集合。7. 集合,集合是一个无序的、不重复的数据组合。
第一步:添加必要的库,创建一个BUY类
import requests,re,xlwt
第二步:class Color;
def __init__(self): '''添加请求头''' self.headers = { 'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 ' '(KHTML, like Gecko) Chrome/87.0.4280.141 Safari/537.36', } #添加查询订单地址 self.port = 'http://xxxxxx.xxfaka.cn/?mod=query&data=xxxxxxxxxxx' '''请求视频网页链接''' def request_link(self): self.response = requests.get(self.port, headers=self.headers) self.html = self.response.text print(self.html) if __name__ == '__main__': app= Color() app.request_link()
直接运行之后的数据有点多,这里没有完全显示
第三步:找到cookie添加到请求头
根据搜索资料发现需要加cookie,然后又去网页找到cookie添加到请求头,然后headers会出现下面这种情况
self.headers = { 'Cookie':'mysid=bcd178f6a7784bdaf63c03e321cfb77a; PHPSESSID=gml9nd9psrik73840v6jem6mm4; sec_defend=baa2a7703f2f3326fa7a366428aef295ac40ff679f2fec0284578de88e87bcac; sec_defend_time=1', 'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 ' '(KHTML, like Gecko) Chrome/77.0.3560.141 Safari/537.36', }
第四步:再次运行代码
这时候就可以拿到网页数据了
初步打算一次直接匹配一个订单全部消息,但是发现有对括号导致一直匹配内容为空
(2020-12-24 01:09:09)
…太长了…
用两个replace将括号替换为空
self.html = self.html.replace('(','') self.html = self.html.replace(')', '') re.findall(r'…(.*?)…(.*?)…',self.html)
第五步:一条语句扣一个内容,之后在for循环将对应数据放到一个列表
匹配了六七个(.?)内容,发现总是不能准确扣到具体内容,有可能好几条订单被扣到一个(.?)里面。这个时候可以换个思路,一条语句扣一个内容,之后在for循环将对应数据放到一个列表,然后整体再放入列表组成二维列表。
#获取订单时间 self.order_time = re.findall(r'(.*?).*?商品名称:(.*?)
联系方式:.*?总价(.*?)元.*?(.*?)
',self.html) #获取商品名称 self.pur_info = re.findall(r'',self.html) #获取订单联系方式 self.contact_info = re.findall(r'',self.html) #获取订单总价 self.price_total = re.findall(r'总价(.*?)元',self.html) #获取账号不完全信息 self.km_info = re.findall(r'(.*?)
',self.html) #获取下单总数 self.num_total = re.findall(r'
写出来基本就是上面的样子,运行发现四五秒以后直接卡死,然后半小时没动重新开机了,代码没保存再运行append那就报错了,就暂时放弃这种方法,重新回到之前的思路,把数据一次都提取出来,既然这单个的都准确提取了,放到一起就可以了。把每个放到一起连接起来运行,直接生成了二维数据。
for i in range(0,len(self.info)): self.info[i] = list(self.info[i]) #通过这里来判断订单的三种情况 km_info = re.findall(r'>账号信息:(.*?)
',self.info[i][5]) if km_info==[]: km_info = re.findall(r'卡密可能漏发,请联系客服',self.info[i][5]) if km_info == []: km_net = re.findall(r'
卡密操作: