重庆分公司,新征程启航

为企业提供网站建设、域名注册、服务器等服务

Python3爬虫利器Scrapyrt的安装方法是什么-创新互联

创新互联www.cdcxhl.cn八线动态BGP香港云服务器提供商,新人活动买多久送多久,划算不套路!

让客户满意是我们工作的目标,不断超越客户的期望值来自于我们对这个行业的热爱。我们立志把好的技术通过有效、简单的方式提供给客户,将通过不懈努力成为客户在信息化领域值得信任、有价值的长期合作伙伴,公司提供的服务项目有:申请域名、网页空间、营销软件、网站建设、温江网站维护、网站推广。

这篇文章主要介绍了Python3爬虫利器Scrapyrt的安装方法是什么,具有一定借鉴价值,需要的朋友可以参考下。希望大家阅读完这篇文章后大有收获。下面让小编带着大家一起了解一下。

Scrapyrt为Scrapy提供了一个调度的HTTP接口,有了它,我们就不需要再执行Scrapy命令而是通过请求一个HTTP接口来调度Scrapy任务了。Scrapyrt比Scrapyd更轻量,如果不需要分布式多任务的话,可以简单使用Scrapyrt实现远程Scrapy任务的调度。

1. 相关链接

GitHub:https://github.com/scrapinghub/scrapyrt

官方文档:http://scrapyrt.readthedocs.io

2. pip安装

这里推荐使用pip安装,命令如下:

pip3 install scrapyrt

接下来,在任意一个Scrapy项目中运行如下命令来启动HTTP服务:

scrapyrt

运行之后,会默认在9080端口上启动服务,类似的输出结果如下:

scrapyrt
2017-07-12 22:31:03+0800 [-] Log opened.
2017-07-12 22:31:03+0800 [-] Site starting on 9080
2017-07-12 22:31:03+0800 [-] Starting factory 

如果想更换运行端口,可以使用-p参数,如:

scrapyrt -p 9081

这样就会在9081端口上运行了。

3. Docker安装

另外,Scrapyrt也支持Docker。比如,要想在9080端口上运行,且本地Scrapy项目的路径为/home/quotesbot,可以使用如下命令运行:

docker run -p 9080:9080 -tid -v /home/user/quotesbot:/scrapyrt/project scrapinghub/scrapyrt

这样同样可以在9080端口上监听指定的Scrapy项目。

感谢你能够认真阅读完这篇文章,希望小编分享Python3爬虫利器Scrapyrt的安装方法是什么内容对大家有帮助,同时也希望大家多多支持创新互联,关注创新互联-成都网站建设公司行业资讯频道,遇到问题就找创新互联,详细的解决方法等着你来学习!


当前文章:Python3爬虫利器Scrapyrt的安装方法是什么-创新互联
网页网址:http://cqcxhl.com/article/csesji.html

其他资讯

在线咨询
服务热线
服务热线:028-86922220
TOP