`
woodding2008
  • 浏览: 285354 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

Storm Nimbus中的线程

 
阅读更多

nimbus计时器线程

nimbus除主线程之外还有一个计数器线程,他主要有三个作用:

  • 调用mk-assignment方法启动新一轮任务的分配,调用do-cleanup方法清理storm元数据。这两项操作会每个nimbus.monitor.freq.secs执行一次,默认值:10秒。
  • 调用clean-inbox方法清理nimbus本地目录中的topoloyg的jar包。该操作每个nimbus.cleanup.inbox.freq.secs执行一次,默认值:600秒。
  • topology的状态转移时间,只有当nimbus接收到对应的服务请求时才会触发,比如:kill、rebalance、activate、deactivate。


mk-assignments方法

     主要负责对当前集群中所有topology进行新一轮的任务调度。

  • 检查已经运行topology所占用的资源,判断他们是否有问题,是否需要重新分配。
  • 根据系统当前的可用资源,为新提交的topology分配任务。
  • 将所有的分配信息保存或更新到zookeeper中。
  • supervisor会周期性的检查这些分配信息,并根据这些分配信息做相应的调度处理。


do-cleanup方法

主要用来判断哪些topology需要清理,并对需要清理的topology做相应的处理。

  • 先删除topology保存在zookeeper中的心跳以及错误信息。
  • 尝试清理nimbus本地目录中相关文件,并从nimbus心跳缓存中移除对应的信息。


clean-inbox方法

主要负责清理nimbus的inbox文件夹$rootPath/nimbus/inbox最后一次修改时间超过了nimbus.inbox.jar.expiration.secs的限定,默认值3600秒。

 

分享到:
评论

相关推荐

    nimbus-jose-jwt-4.41.1-API文档-中文版.zip

    赠送jar包:nimbus-jose-jwt-4.41.1.jar; 赠送原API文档:nimbus-jose-jwt-4.41.1-javadoc.jar; 赠送源代码:nimbus-jose-jwt-4.41.1-...人性化翻译,文档中的代码和结构保持不变,注释和说明精准翻译,请放心使用。

    nimbus-jose-jwt-3.9-API文档-中文版.zip

    赠送jar包:nimbus-jose-jwt-3.9.jar; 赠送原API文档:nimbus-jose-jwt-3.9-javadoc.jar; 赠送源代码:nimbus-jose-jwt-3.9-sources....人性化翻译,文档中的代码和结构保持不变,注释和说明精准翻译,请放心使用。

    nimbus-sans-l.zip

    nimbus-sans-l.zip nimbus-sans-l.zip nimbus-sans-l.zip nimbus-sans-l.zip

    漫谈大数据第四期-storm

    Storm可以方便地在一个计算机集群中编写与扩展复杂的实时计算,Storm之于实时处理,就好比Hadoop之于批处理。Storm保证每个消息都会得到处理,而且它很快——在一个小集群中,每秒可以处理数以百万计的消息。更棒的...

    nimbus-jose-jwt-3.9.jar中文-英文对照文档.zip

    注:下文中的 *** 代表文件名中的组件名称。 # 包含: 中文-英文对照文档:【***-javadoc-API文档-中文(简体)-英语-对照版.zip】 jar包下载地址:【***.jar下载地址(官方地址+国内镜像地址).txt】 Maven依赖:【*...

    nimbus-jose-jwt-4.41.1-API文档-中英对照版.zip

    赠送jar包:nimbus-jose-jwt-4.41.1.jar; 赠送原API文档:nimbus-jose-jwt-4.41.1-javadoc.jar;...人性化翻译,文档中的代码和结构保持不变,注释和说明精准翻译,请放心使用。 双语对照,边学技术、边学英语。

    Nimbus Screenshot and Screencas

    Nimbus Screenshot and Screencas最强大的chrome截屏、录屏、录音插件!

    storm0.9.3与kafka安装文件

    修改内容如下:依赖zk storm.zookeeper.servers: - "master001" - "slave001" - "slave002" # nimbus.host: "nimbus" nimbus.host:master001

    业务流程管理(NIMBUS).pptx

    业务流程管理(NIMBUS).pptx

    Nimbus Screenshot_6_5_0_.crx

    windows系统下谷歌浏览器最好用的滚动截屏脚本,Nimbus Screenshot是一款主要用于网页截图的chrome浏览器插件。nimbus screenshot crx拥有非常强大的截图功能,同时支持二次编辑,操作方式便捷,绿色小巧,不占内存...

    Storm运行原理探索

    ApacheStorm的前身是TwitterStorm平台,目前已经归于Apache基金会管辖。...Storm集群采用主从架构方式,主节点是Nimbus,从节点是Supervisor,有关调度相关的信息存储到ZooKeeper集群中,架构如下图所示:N

    strom的安装

    Task为Storm中的最小处理单元,它是Topology组件诸多并行度中的一个。每个Executor都会启动一个消息循环线程,用以接收、处理和发送消息。当Executor收到属于其下某一Task的消息后,就会调用该Task对应的处理逻辑对...

    storm简单介绍、模型图及基本代码

    storm简单介绍、模型图及基本代码,包括nimbus、supervisor、workers、spouts、bolts等

    ansible-storm:安装 Apache Storm 的角色

    风暴该角色执行以下操作: 设置 java 6(打开 jdk) 为 Apache Storm 设置用户和组安装 Apache Storm 配置 ...nimbus_host: "localhost"storm_nimbus_childopts: "-Xmx1024m -Djava.net.preferIPv4Stack=true"storm_

    Storm+Zookeeper 流模式大数据处理部署手册

    本方案采用统信 UOS 操作系统+Storm+Zookeeper 结合进行设计,以 Storm 为基础的分布式集群系统,搭配 Apache 开源系统中的应用程序协调服务 Zookeeper 的分布式实时大数据处理框架。 使用 UOS 统信服务器操作系统为...

    Python库 | nimbus-python-0.0.5.tar.gz

    python库。 资源全名:nimbus-python-0.0.5.tar.gz

    screencast-nimbus-capture-2021.03.14-17_35_59.webm

    screencast-nimbus-capture-2021.03.14-17_35_59.webm

    第3章storm1

    第3章 Storm 192 3.1 架构 193 3.1.1 Nimbus 193 3.1.2 Zookeeper 193 3.1.3 supervis

    Storm基础理论与实战

    适合初学者学习,基本理论讲解和实战。Storm的安装,Storm的集群架构(Nimbus,Supervisos,Executor,Worker,zookeeper)

Global site tag (gtag.js) - Google Analytics