HTML下载模块是怎样的

这篇文章给大家介绍HTML下载模块是怎样的，内容非常详细，感兴趣的小伙伴们可以参考借鉴，希望对大家能有所帮助。

成都创新互联长期为1000+客户提供的网站建设服务，团队从业经验10年，关注不同地域、不同群体，并针对不同对象提供差异化的产品和服务；打造开放共赢平台，与合作伙伴共同营造健康的互联网生态环境。为阳城企业提供专业的成都网站设计、网站制作，阳城网站改版等技术服务。拥有10多年丰富建站经验和众多成功案例,为您定制开发。

HTML下载模块

该模块主要是根据提供的url进行下载对应url的网页内容。使用模块requets-HTML，加入重试逻辑以及设定最大重试次数，同时限制访问时间，防止长时间未响应造成程序假死现象。

根据返回的状态码进行判断如果访问成功则返回源码，否则开始重试，如果出现异常也是进行重试操作。

from requests_html import HTMLSession
from fake_useragent import UserAgent
import requests
import time
import random
class Gethtml():
   def __init__(self,url="http://wwww.baidu.com"):
       self.ua = UserAgent()
       self.url=url
       self.session=HTMLSession(mock_browser=True)
       #关于headers有个默认的方法 self.headers = default_headers()
       #mock_browser 表示使用useragent
   def get_source(self,url,retry=1):
          if retry>3:
              print("重试三次以上，跳出循环")
              return None
          while retry<3:
              try:
                 req=self.session.get(url,timeout=10)
                 if req.status_code==requests.codes.ok:
                     return req.text
                 else:
                     time.sleep(random.randint(0,6))
              except:
                  print('An Error Happened, Please wait 0-6 seconds')
                  time.sleep(random.randint(0, 6))
                  retry += 1
                  self.get_source(url,retry)

关于HTML下载模块是怎样的就分享到这里了，希望以上内容可以对大家有一定的帮助，可以学到更多知识。如果觉得文章不错，可以把它分享出去让更多的人看到。