对于某个城市的出租车数据,一天就有33210000条记录,如何将每辆车的数据单独拎出来放到一个专属的文件中呢?
思路很简单:
就是循环33210000条记录,将每辆车的数据搬运到它该去的文件中。

但是对于3000多万条数据,一个一个循环太消耗时间,我花了2个小时才搬运了60万数据,算算3000万我需要花费100个小时,也就需要4-5天。并且还需要保证这五天全天开机,不能出现卡机的事故。

因此,需要使用并行进行for循环的技巧:
由于3000万数据放到csv中导致csv打不开,因此我就把一个csv通过split软件将其切分成每份60万,共53个csv。

我原来的思路是读取文件夹,获取由每一个60万的csv文件组成的列表,再分别对每一个60万的csv进行处理。实质上还是循环33210000次,并行for循环就是同时处理几个60万的csv文件,就能成倍的减少时间消耗。
并行进行for循环是受下面的方法启发:
我之前的做法类似这样:
words = ['apple', 'bananan', 'cake', 'dumpling'] for word in words: print word
并行for循环类似这样:
from multiprocessing.dummy import Pool as ThreadPool items = list() pool =
ThreadPool() pool.map(process, items) pool.close() pool.join()
其中,process是进行处理的函数
实例代码如下:
# -*- coding: utf-8 -*- import time from multiprocessing.dummy import Pool as
ThreadPool def process(item): print('正在并行for循环') print(item) time.sleep(5)
items = ['apple', 'bananan', 'cake', 'dumpling'] pool = ThreadPool()
pool.map(process, items) pool.close() pool.join()

技术
©2020 ioDraw All rights reserved
特征工程【深度学习】目标检测中 IOU 的概念及计算(精华)2020年6月26日 C#类库 Random随机数帮助类今天你抱怨了吗?比特币突破8000美元 背后暗藏杀机分享一场黑客帝国代码雨脚本,简单好玩!layui.table动态获取表头和列表数据示例特朗普的"VIP疗法":正接受一种尚未获批的药物治疗python保存excel文件列宽自适应解决方案Android EditText限制输入的最大字符数