大数据python同步
python的multiprocessing模块供应了大略的方法供我们利用,是的在同步数据到大数据平台稳定而高效。
以下是一个多线程的例子:

import osfrom multiprocessing import Process# 子进程要实行的代码def run_proc(name): print ('Child process %s (%s) Running...' % (name, os.getpid()))if __name__ == '__main__': print ('Parent process %s.' % os.getpid()) p_list=[] for i in range(5): p = Process(target=run_proc, args=(str(i),)) p_list.append(p) print ('Process will start.') p_list[i].start() for p in p_list: p.join() print ('Process end.')
运行结果