您当前的位置: 首页 >  ar

宝哥大数据

暂无认证

  • 2浏览

    0关注

    1029博文

    0收益

  • 0浏览

    0点赞

    0打赏

    0留言

私信
关注
热门博文

SparkContext的初始化

宝哥大数据 发布时间:2019-03-27 22:07:11 ,浏览量:2

本栏目基于spark2.1.1

SparkDriver 用于提交用户的应用程序,

一、SparkConf

负责SparkContext的配置参数加载, 主要通过ConcurrentHashMap来维护各种spark.*的配置属性

class SparkConf(loadDefaults: Boolean) extends Cloneable with Logging with Serializable {
    import SparkConf._

    /** Create a SparkConf that loads defaults from system properties and the classpath */
    def this() = this(true)

    /**  维护一个ConcurrentHashMap 来存储spark配置  */
    private val settings = new ConcurrentHashMap[String, String]()
    if (loadDefaults) {
        loadFromSystemProperties(false)
    }

    /**
     * 加载spark.*的配置 
     */
    private[spark] def loadFromSystemProperties(silent: Boolean): SparkConf = {
        // Load any spark.* system properties, 只加载spark.*的配置
        for ((key, value)             
关注
打赏
1587549273
查看更多评论
0.0422s