R语言并行计算的原理和案例_光环大数据培训机构

https://www.360docs.net/doc/065906072.html,

众所周知，在大数据时代R语言有两个弱项，其中一个就是只能使用单线程计算。但是R在2.14版本之后，R就内置了parallel包，强化了R的并行计算能力。 parallel包实际上整合了之前已经比较成熟的snow包和multicore包，multicore无法在windows下运行。parallel包可以很容易的在计算集群上实施并行计算，在多个CPU核心的单机上，也能发挥并行计算的功能。我们今天就来探索一下parallel包在多核心单机上的使用。 parallel包的思路和lapply 函数很相似，都是将输入数据分割、计算、整合结果。只不过并行计算是用到了不同的cpu来运算。这样的计算过程可以使用如下方式来表述： 1、启动M个附属进程，并初始化 2、针对于任务，为每个附属进程分发所有的数据 3、将任务粗略的分为M个块儿（chunks），并将这些块儿发送到附属进程（包含需要的

R代码） 4、等待所有的附属进程完成计算任务，并返回结果 5、对于其他任务也同样重复2-4 6、关闭附属进程在parallel包里，对应上述两种并行化方式有如下两个核心函数（针对于lapply函数的并行化，mclapply在windows上不能使用）： parLapply(cl, x, FUN, …) mclapply(X, FUN, …, mc.cores) 案例1、不使用并行计算，直接使用lapply（隐式循环函数，它实际就是对不同的数据应用了相同的函数）：fun <- function(x){ return (x+1); } system.time({ res <- lapply(1:5000000, fun); }); user system elapsed 21.42 1.74 25.70 案例2、使用parallel包来加速 library(parallel) #打开四核，具体核数根据机器的核数决定cl <- makeCluster(getOption(“cl.cores”, 4)); system.time({ res <- parLapply(cl, 1:5000000, fun) }); user system elapsed 6.54 0.34 19.95 #关闭并行计算stopCluster(cl); 看看单核机器跑出来的结果：user system elapsed 29.30 9.23 97.22 所以，并非核数越多越好，看机器配置。这个函数有两点要注意：首先要先用detectCores函数确定系统核心数目，对于Window系统下的Intel I5或I7 处理器，一般使用detectCores(logical

https://www.360docs.net/doc/065906072.html,

= F)来获得实际的物理核心数量。由于这个函数使用的是调用Rscript的方式，这个例子里，对象被复制了三份，因此内存会吃的很厉害，在大数据条件就要小心使用。案例3、在Linux下使用mclapply函数的效果如下： mc <- getOption(“mc.cores”, 3) system.time({ res <- mclapply(1:5000000, fun, mc.cores = mc); }); user system elapsed 6.657 0.500 7.181 foreach包是revolutionanalytics公司贡献给R开源社区的一个包，它能使R中的并行计算更为方便。与sapply函数类似，foreach函数中的第一个参数是输入参数，%do%后面的对象表示运算函数，而.combine则表示运算结果的整合方式。下面的例子即是用foreach来完成前面的同一个任务。如果要启用并行，则需要加载doParallel包，并将%do%改为%dopar%。这样一行代码就能方便的完成并行计算了。案例4、foreach包的使用： library(foreach) # 非并行计算方式，类似于sapply函数的功能 x <- foreach(x=1:1000,.combine=’rbind’) %do% func(x) # 启用parallel作为foreach并行计算的后端 library(doParallel) cl <- makeCluster(4) registerDoParallel(cl) # 并行计算方式x <- foreach(x=1:1000,.combine=’rbind’) %dopar% func(x) stopCluster(cl)

为什么大家选择光环大数据！

大数据培训、人工智能培训、Python培训、大数据培训机构、大数据培训班、数据分析培训、大数据可视化培训，就选光环大数据！光环大数据，聘请大数据领域具有多年经验的讲师，提高教学的整体质量与教学水准。讲师团及时掌握时代的技术，将时新的技能融入教学中，让学生所学知识顺应时代所需。通过深入浅出、通俗易懂的教学方式，指导学生较快的掌握技能知识，帮助莘莘学子实现就业梦想。

光环大数据启动了推进人工智能人才发展的“AI智客计划”。光环大数据专注国内

https://www.360docs.net/doc/065906072.html,

大数据和人工智能培训，将在人工智能和大数据领域深度合作。未来三年，光环大数据将联合国内百所大学，通过“AI智客计划”，共同推动人工智能产业人才生态建设，培养和认证5-10万名AI大数据领域的人才。

参加“AI智客计划”，享2000元助学金！

【报名方式、详情咨询】

光环大数据网站报名：https://www.360docs.net/doc/065906072.html,

手机报名链接：http:// https://www.360docs.net/doc/065906072.html, /mobile/