Spark自定义累加器的使用实例详解

累加器（accumulator）是Spark中提供的一种分布式的变量机制，其原理类似于mapreduce，即分布式的改变，然后聚合这些改变。累加器的一个常见用途是在调试时对作业执行过程中的事件进行计数。

累加器简单使用

Spark内置的提供了Long和Double类型的累加器。下面是一个简单的使用示例，在这个例子中我们在过滤掉RDD中奇数的同时进行计数，最后计算剩下整数的和。

val sparkConf = new SparkConf().setAppName("Test").setMaster("local[2]") 
val sc = new SparkContext(sparkConf) 
val accum = sc.longAccumulator("longAccum") //统计奇数的个数 
val sum = sc.parallelize(Array(1,2,3,4,5,6,7,8,9),2).filter(n=>{ 
 if(n%2!=0) accum.add(1L)  
 n%2==0 
}).reduce(_+_) 
println("sum: "+sum) 
println("accum: "+accum.value) 
sc.stop() 

结果为：

sum: 20
accum: 5

这是结果正常的情况，但是在使用累加器的过程中如果对于spark的执行过程理解的不够深入就会遇到两类典型的错误：少加（或者没加）、多加。

自定义累加器

自定义累加器类型的功能在1.X版本中就已经提供了，但是使用起来比较麻烦，在2.0版本后，累加器的易用性有了较大的改进，而且官方还提供了一个新的抽象类：AccumulatorV2来提供更加友好的自定义类型累加器的实现方式。官方同时给出了一个实现的示例：CollectionAccumulator类，这个类允许以集合的形式收集spark应用执行过程中的一些信息。例如，我们可以用这个类收集Spark处理数据时的一些细节，当然，由于累加器的值最终要汇聚到driver端，为了避免 driver端的outofmemory问题，需要对收集的信息的规模要加以控制，不宜过大。

继承AccumulatorV2类，并复写它的所有方法

package spark
import constant.Constant
import org.apache.spark.util.AccumulatorV2
import util.getFieldFromConcatString
import util.setFieldFromConcatString
open class SessionAccmulator : AccumulatorV2<String, String>() {
  private var result = Constant.SESSION_COUNT + "=0|"+
      Constant.TIME_PERIOD_1s_3s + "=0|"+
      Constant.TIME_PERIOD_4s_6s + "=0|"+
      Constant.TIME_PERIOD_7s_9s + "=0|"+
      Constant.TIME_PERIOD_10s_30s + "=0|"+
      Constant.TIME_PERIOD_30s_60s + "=0|"+
      Constant.TIME_PERIOD_1m_3m + "=0|"+
      Constant.TIME_PERIOD_3m_10m + "=0|"+
      Constant.TIME_PERIOD_10m_30m + "=0|"+
      Constant.TIME_PERIOD_30m + "=0|"+
      Constant.STEP_PERIOD_1_3 + "=0|"+
      Constant.STEP_PERIOD_4_6 + "=0|"+
      Constant.STEP_PERIOD_7_9 + "=0|"+
      Constant.STEP_PERIOD_10_30 + "=0|"+
      Constant.STEP_PERIOD_30_60 + "=0|"+
      Constant.STEP_PERIOD_60 + "=0"
  override fun value(): String {
    return this.result
  }
  /**
   * 合并数据
   */
  override fun merge(other: AccumulatorV2<String, String>?) {
    if (other == null) return else {
      if (other is SessionAccmulator) {
        var newResult = ""
        val resultArray = arrayOf(Constant.SESSION_COUNT,Constant.TIME_PERIOD_1s_3s, Constant.TIME_PERIOD_4s_6s, Constant.TIME_PERIOD_7s_9s,
            Constant.TIME_PERIOD_10s_30s, Constant.TIME_PERIOD_30s_60s, Constant.TIME_PERIOD_1m_3m,
            Constant.TIME_PERIOD_3m_10m, Constant.TIME_PERIOD_10m_30m, Constant.TIME_PERIOD_30m,
            Constant.STEP_PERIOD_1_3, Constant.STEP_PERIOD_4_6, Constant.STEP_PERIOD_7_9,
            Constant.STEP_PERIOD_10_30, Constant.STEP_PERIOD_30_60, Constant.STEP_PERIOD_60)
        resultArray.forEach {
          val oldValue = other.result.getFieldFromConcatString("|", it)
          if (oldValue.isNotEmpty()) {
            val newValue = oldValue.toInt() + 1
            //找到原因，一直在循环赋予值,debug30分钟 很烦
            if (newResult.isEmpty()){
              newResult = result.setFieldFromConcatString("|", it, newValue.toString())
            }
            //问题就在于这里，自定义没有写错，合并错了
            newResult = newResult.setFieldFromConcatString("|", it, newValue.toString())
          }
        }
        result = newResult
      }
    }
  }
  override fun copy(): AccumulatorV2<String, String> {
    val sessionAccmulator = SessionAccmulator()
    sessionAccmulator.result = this.result
    return sessionAccmulator
  }
  override fun add(p0: String?) {
    val v1 = this.result
    val v2 = p0
    if (v2.isNullOrEmpty()){
      return
    }else{
      var newResult = ""
      val oldValue = v1.getFieldFromConcatString("|", v2!!)
      if (oldValue.isNotEmpty()){
        val newValue = oldValue.toInt() + 1
        newResult = result.setFieldFromConcatString("|", v2, newValue.toString())
      }
      result = newResult
    }
  }
  override fun reset() {
    val newResult = Constant.SESSION_COUNT + "=0|"+
        Constant.TIME_PERIOD_1s_3s + "=0|"+
        Constant.TIME_PERIOD_4s_6s + "=0|"+
        Constant.TIME_PERIOD_7s_9s + "=0|"+
        Constant.TIME_PERIOD_10s_30s + "=0|"+
        Constant.TIME_PERIOD_30s_60s + "=0|"+
        Constant.TIME_PERIOD_1m_3m + "=0|"+
        Constant.TIME_PERIOD_3m_10m + "=0|"+
        Constant.TIME_PERIOD_10m_30m + "=0|"+
        Constant.TIME_PERIOD_30m + "=0|"+
        Constant.STEP_PERIOD_1_3 + "=0|"+
        Constant.STEP_PERIOD_4_6 + "=0|"+
        Constant.STEP_PERIOD_7_9 + "=0|"+
        Constant.STEP_PERIOD_10_30 + "=0|"+
        Constant.STEP_PERIOD_30_60 + "=0|"+
        Constant.STEP_PERIOD_60 + "=0"
    result = newResult
  }
  override fun isZero(): Boolean {
    val newResult = Constant.SESSION_COUNT + "=0|"+
        Constant.TIME_PERIOD_1s_3s + "=0|"+
        Constant.TIME_PERIOD_4s_6s + "=0|"+
        Constant.TIME_PERIOD_7s_9s + "=0|"+
        Constant.TIME_PERIOD_10s_30s + "=0|"+
        Constant.TIME_PERIOD_30s_60s + "=0|"+
        Constant.TIME_PERIOD_1m_3m + "=0|"+
        Constant.TIME_PERIOD_3m_10m + "=0|"+
        Constant.TIME_PERIOD_10m_30m + "=0|"+
        Constant.TIME_PERIOD_30m + "=0|"+
        Constant.STEP_PERIOD_1_3 + "=0|"+
        Constant.STEP_PERIOD_4_6 + "=0|"+
        Constant.STEP_PERIOD_7_9 + "=0|"+
        Constant.STEP_PERIOD_10_30 + "=0|"+
        Constant.STEP_PERIOD_30_60 + "=0|"+
        Constant.STEP_PERIOD_60 + "=0"
    return this.result == newResult
  }
}

方法介绍

value方法：获取累加器中的值

       merge方法：该方法特别重要，一定要写对，这个方法是各个task的累加器进行合并的方法（下面介绍执行流程中将要用到）

        iszero方法：判断是否为初始值

        reset方法：重置累加器中的值

        copy方法：拷贝累加器

spark中累加器的执行流程：

          首先有几个task，spark engine就调用copy方法拷贝几个累加器（不注册的），然后在各个task中进行累加（注意在此过程中，被最初注册的累加器的值是不变的），执行最后将调用merge方法和各个task的结果累计器进行合并（此时被注册的累加器是初始值）

总结

以上就是本文关于Spark自定义累加器的使用实例详解的全部内容，希望对大家有所帮助。有什么问题可以随时留言，小编会及时回复大家的。

# spark  # 自定义累加器  # 累加器  # Spark的广播变量和累加器使用方法代码示例  # Spark入门简介  # 使用docker快速搭建Spark集群的方法教程  # java 中Spark中将对象序列化存储到hdfs  # Hadoop组件简介  # 深入浅析Java Object Serialization与 Hadoop 序列化  # Java执行hadoop的基本操作实例代码  # 浅谈七种常见的Hadoop和Spark项目案例  # 自定义  # 过程中  # 是一个  # 这是  # 器中  # 有什么  # 几个  # 就会  # 是在  # 在这个  # 出了  # 在此  # 可以用  # 错了  # 有几个  # 后将  # 过大  # 类似于  # 就在于 

相关文章： 宝塔新建站点为何无法访问？如何排查？  学校免费自助建站系统：智能生成+拖拽设计+多端适配  专业型网站制作公司有哪些,我设计专业的，谁给推荐几个设计师兼职类的网站？  建站之星导航菜单设置与功能模块配置全攻略  如何快速辨别茅台真假？关键步骤解析  重庆网站制作公司哪家好,重庆中考招生办官方网站？  建站主机是什么？如何选择适合的建站主机？  南京网站制作费用,南京远驱官方网站？  如何选择适合PHP云建站的开源框架？  如何规划企业建站流程的关键步骤？  如何做静态网页,sublimetext3.0制作静态网页？  ,网页ppt怎么弄成自己的ppt？  如何在阿里云ECS服务器部署织梦CMS网站？  专业网站制作企业网站,如何制作一个企业网站，建设网站的基本步骤有哪些？  Swift开发中switch语句值绑定模式  如何通过智能用户系统一键生成高效建站方案？  如何在景安云服务器上绑定域名并配置虚拟主机？  ,南京靠谱的征婚网站？  如何选择建站程序？包含哪些必备功能与类型？  ,想在网上投简历，哪几个网站比较好？  内部网站制作流程,如何建立公司内部网站？  已有域名如何快速搭建专属网站？  建站之星24小时客服电话如何获取？  成都品牌网站制作公司,成都营业执照年报网上怎么办理？  武汉网站如何制作,黄黄高铁武穴北站途经哪些村庄？  宁波自助建站系统如何快速打造专业企业网站？  建站之星如何快速解决建站难题？  红河网站制作公司,红河事业单位身份证如何上传？  昆明高端网站制作公司,昆明公租房申请网上登录入口？  免费制作海报的网站,哪位做平面的朋友告诉我用什么软件做海报比较好?ps还是cd还是ai这几个软件我都会些我是做网页的？  陕西网站制作公司有哪些,陕西凌云电器有限公司官网？  高防网站服务器：DDoS防御与BGP线路的AI智能防护方案  如何高效利用200m空间完成建站？  昆明网站制作哪家好,昆明公租房申请网上登录入口？  定制建站方案优化指南：企业官网开发与建站费用解析  如何选择靠谱的建站公司加盟品牌？  如何快速搭建个人网站并优化SEO？  定制建站模板如何实现SEO优化与智能系统配置？18字教程  建站主机默认首页配置指南：核心功能与访问路径优化  ,sp开头的版面叫什么？  如何快速生成高效建站系统源代码？  html制作网站的步骤有哪些,iapp如何添加网页？  Android使用GridView实现日历的简单功能  小自动建站系统：AI智能生成+拖拽模板，多端适配一键搭建  如何做网站制作流程,*游戏网站怎么搭建？  javascript中的try catch异常捕获机制用法分析  c# Task.Yield 的作用是什么 它和Task.Delay(1)有区别吗  制作销售网站教学视频,销售网站有哪些？  如何在IIS中新建站点并解决端口绑定冲突？  如何快速上传自定义模板至建站之星？