提高python中for循环效率的方法-创新互联

这篇文章主要讲解了提高python中for循环效率的方法，内容清晰明了，对此有兴趣的小伙伴可以学习一下，相信大家阅读完之后会有帮助。

对于某个城市的出租车数据，一天就有33210000条记录，如何将每辆车的数据单独拎出来放到一个专属的文件中呢？

思路很简单：

就是循环33210000条记录，将每辆车的数据搬运到它该去的文件中。

但是对于3000多万条数据，一个一个循环太消耗时间，我花了2个小时才搬运了60万数据，算算3000万我需要花费100个小时，也就需要4-5天。并且还需要保证这五天全天开机，不能出现卡机的事故。

因此，需要使用并行进行for循环的技巧：

由于3000万数据放到csv中导致csv打不开，因此我就把一个csv通过split软件将其切分成每份60万，共53个csv。

我原来的思路是读取文件夹，获取由每一个60万的csv文件组成的列表，再分别对每一个60万的csv进行处理。实质上还是循环33210000次，并行for循环就是同时处理几个60万的csv文件，就能成倍的减少时间消耗。

并行进行for循环是受下面的方法启发：

我之前的做法类似这样：

  words = ['apple', 'bananan', 'cake', 'dumpling']
  for word in words:
    print word

另外有需要云服务器可以了解下创新互联scvps.cn，海内外云服务器15元起步，三天无理由+7*72小时售后在线，公司持有idc许可证，提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案，具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势，专为企业上云打造定制，能够满足用户丰富、多元化的应用场景需求。