重庆分公司,新征程启航
为企业提供网站建设、域名注册、服务器等服务
PHP实现采集抓取淘宝网单个商品信息,本文是一种实现思路,使用file_get_contents函数实现,并给出了采集正则,需要的朋友可以参考下
成都创新互联服务项目包括霞浦网站建设、霞浦网站制作、霞浦网页制作以及霞浦网络营销策划等。多年来,我们专注于互联网行业,利用自身积累的技术优势、行业经验、深度合作伙伴关系等,向广大中小型企业、政府机构等提供互联网行业的解决方案,霞浦网站推广取得了明显的社会效益与经济效益。目前,我们服务的客户以成都为中心已经辐射到霞浦省份的部分城市,未来相信会继续扩大服务区域并继续获得客户的支持与信任!
调用淘宝的数据可以使用淘宝提供的api,如果只需调用淘宝商品图片名称等公开信息在自己网站上,使用php中的 file_get_contents 函数实现即可。
思路:
file_get_contents(url) 该函数根据 url 如 将该网页内容(源码)以字符串形式输出(一个整字符串),然后配合preg_match,preg_replace等这些正则表达式操作就可以实现获取该url特定div,img等信息了。当然前题是淘宝在单个商品页面的结构是固定的,如500图的img中id就是J_ImgBooth!
具体实现方法:(获取500图,名称,价格,属性及商品描述)
复制代码 代码如下:
$text=file_get_contents(""); //将url地址上页面内容保存进$text
A.获取500图:
复制代码 代码如下:
preg_match('/img[^]*id="J_ImgBooth"[^r]*rc=\"([^"]*)\"[^]*/', $text, $img);
//运用正则抓取img标签中id为J_ImgBooth的img,$img[0]为该500图img标签,$img[1]为500图的图片地址;
B. 获取名称:
复制代码 代码如下:
preg_match('/title([^]*)\/title/', $text, $title);
//因为正文中的商品名称标签没有特殊class或id正则不好抓取,就抓title标签中的内容了,一般来说title中内容就是商品名称了(实际有些出入),$title[0]整个title标签 $title[1]标签中内容;
$title=iconv('GBK','UTF-8',$title);
//如果你的网站是utf8编码,那么需要进行一下转码(淘宝是gbk编码)
C.获取价格:
复制代码 代码如下:
preg_match('/([a-z]+)[^i]*id=\"J_StrPrice\"[^]*([^]*)\/\\1/is', $text, $price);
//同理获取id为J_StrPrice的标签内容$price[2], $price[0]是整个标签, $price[1]为strong标签名;
$price=floatval($price);//放入数据库估计还有转一下变量类型
D.获取属性:
这之前获取的内容都是在单标签中相对只需一个正则就可搞定,然而如果要获取如
复制代码 代码如下:
…
div id=”xxx”
…
ul
…
/ul
div…
div…
/div
/div
/div
…
这样特定div中有未知n个标签,获取该特定div将会非常的困难,搜了下网上,最接近的也只是”/([a-z]+)[^]*([^]|(?R))*\/\\1/”这样使用递归抓取标签对,但是他不能抓特定标签,所以想要轻松抓取class=”attributes”的div我是没法办到了。但是淘宝网页有其特殊性,就是它的各个标签结构基本是固定的…div…/div标签后面不是/divdiv id=”description”就是/divdiv,所以我们可以采用变通法达到获取属性标签内容的目的。
复制代码 代码如下:
preg_match('/(div)[^c]*class=\"attributes\"[^]*.*\/\\1/is', $text, $text0);
//这个正则会抓取div开始到整个页面最后一个/div标签,当然我们属性标签就在这个的前面部分。
$text1=preg_replace("/\/div[^]*(div)[^c]*id=\"description\"[^]*.*\/\\1/is","",$text0);
//匹配到/div div id=”description”至最后/div然后用””代替(就是把匹配的删除了),所以如果attributes的div后面紧跟的是description那么我们已经达到目的了。
$attributes=preg_replace("/\/div[^]*(div)[^c]*class=\"box J_TBox\"[^]*.*\/\\1/is","",$text1);
//如果attributes后面紧跟box J_Tbox标签,那么我们还需要使用以上这步来剔除box J_Tbox标签,当然如果attributes的div后面紧跟的是description,这一步将不会匹配到任何即什么都不会做。
E.获取描述:
通过上面方法你肯定觉得淘宝页面上任何标签都可以很简单获取了吧(我之前也是这么想的),但是使用这个方法获取描述时得到的内容将会是“描述加载中”,是的,这个描述内容不是在源码中的,它是打开页面加载进一大堆js后,不知道从淘宝的哪个角落中加载进来的。
好吧,那么我们也可以模仿它放一些js进去。不知道哪些对加载描述有用?没事,全加载进来肯定没错。不知道需要放那些特定div上去有作用?抓一个源码,删掉一些div一步步试试看,你会发现“div id=”detail” /div
复制代码 代码如下:
div id="description"
div id="J_DivItemDesc"描述加载中/div
/div
这几个div是加载描述所必须的,那么下面就是写代码了:
复制代码 代码如下:
preg_match_all('/script[^]*[^]*\/script/is', $text, $content);//页面js脚本
$content=$content[0];
$description='div id="detail" /div
div id="description"
div id="J_DivItemDesc"描述加载中/div
/div';
foreach ($content as $v){$description.=iconv('GBK','UTF-8',$v);};
//将这个$description放进页面,描述就会自动的加载进来了,当然多个商品描述在同一个页面也会只有一个描述会被加载的。
我只采集过天猫的数据,估计淘宝也不难吧,简单的思路就是下载html,正则链接,打开链接,爬数据,不过php是单线程的,速度慢。
1、通过淘宝提供的标准api获取数据
2、通过淘宝的开发者身份创建应用获取数据
3、通过抓取网页的功能再提取自已需要的数据。
// ==UserScript==
// @name JD
// @namespace
// @version 0.1
// @description try to take over the world!
// @author You
// @match *
// @grant none
// ==/UserScript==
/* jshint -W097 */
'use strict';
// Your code here...
var divObj=document.createElement("input");
divObj.type="button";
divObj.value='获取抓取内容';
divObj.style.marginTop="20px";
divObj.style.marginBottom="20px";
divObj.style.marginLeft="50px";
var first=document.body.firstChild;
document.body.insertBefore(divObj,first);
var result={};
divObj.onclick=function(){
//获取价格
if(document.getElementById("jd-price")){
var priceDiv=document.getElementById("jd-price");
var price = priceDiv.innerText;
price = price.substr(1);
}else if(document.getElementById("price")){
var pricePri=document.getElementById("price");
var priceDiv=pricePri.firstElementChild;
var price = priceDiv.innerText;
}else if(document.getElementsByClassName("price")[0]){
var priceClass=document.getElementsByClassName("price");
var priceDiv=priceClass[0];
var price = priceDiv.innerText;
}
result.price=price;
}
直接用Curl就行,具体爬取的数据可以穿参查看结果,方法不区分淘宝和天猫链接,但是前提是必须是PC端链接,另外正则写的不规范,所以可以自己重写正则来匹配数据。