`
woodding2008
  • 浏览: 285356 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

Storm任务常见问题总结

 
阅读更多

 

内存泄漏[OOM]

容器类使用不当,导致对象无限增加。

 

 

线程泄漏

修复前后对比,正常情况下100-200个线程之间就足够了。

 通过命令快速查看进程的线程数量   ,  ps hH p <pid> | wc -l,这个命令查看一个进程(用H选项)的线程数

for i in `ps aux | grep -v grep | grep java | awk '{print $2}'` ; do echo $i "-->" `ps hH p $i | wc -l`  ; done
81109 --> 29
81112 --> 22
166924 --> 43
176107 --> 153
176109 --> 148

 

 

 

连接泄漏

JDBC4PreparedStatement对象没有关闭,连接泄漏同时也会OOM

 

 

 

 

并发设置不合理

并发设置过大导致线程数高居不下,上下文切换成本较大。

 

组件并发设置不合理,导致worker CPU使用率偏差较大,影响任务的稳定。

 

 

不合理日志输出

日志太多,很容易把磁盘写爆。

 

 

下游系统故障

mysql IO问题,导致数据囤积在worker中会触发频繁的GC。

 

 

 

  • 大小: 57.5 KB
  • 大小: 132.6 KB
  • 大小: 77 KB
  • 大小: 134.3 KB
  • 大小: 299.5 KB
  • 大小: 165.3 KB
  • 大小: 444.4 KB
  • 大小: 177.5 KB
分享到:
评论

相关推荐

    Storm Executor Task QuartzJob流式框架定时任务处理框架

    Storm Executor Task QuartzJob流式框架定时任务处理框架

    Storm实战常见问题及解决方案

    安装好JDK后,需要配置环境变量,通常情况下出于经验,我们往往会修改/etc/profile的值进行环境变量配置,但这在安装JDK以及后面安装的storm集群、zookeeper集群以及metaq集群时会出问题,这时候我们需要在/etc/....

    storm 学习资源总结

    最近学习了storm 对应的知识总结如下 自己学习效果不错 推荐大家使用

    解决丢失Storm.dll的问题

    完美解决丢失storm.dll的问题。解决办法:解压下载的文件到C:\Users\????\AppData\Local\Temp 即可(WIN7下)

    Storm入门教程 之Storm原理和概念详解

    Storm入门教程 之Storm原理和概念详解,出自Storm流计算从入门到精通之技术篇,Storm入门视频教程用到技术:Storm集群、Zookeeper集群等,涉及项目:网站PV、UV案例实战、其他案例; Storm视频教程亮点: 1、Storm...

    storm-ui:Apache Storm 的用户界面

    主分支: ##包裹包战 mvn clean package -DskipTests=true -Dwarcp ./target/storm-ui.war $TOMCAT_HOME/webapps/包装罐 mvn clean package -DskipTests=truecp ./target/storm-ui-*.jar $STORM_HOME/external/...

    Storm环境下基于权重的任务调度算法

    针对这一问题,提出 一种Storm环境下基于权重的任务调度算法(TSAW-Storm)。该算法首先根据各任务的CPU资源占用情况以及任务间的数据流大小,分别确定拓扑的点权和边权; 并利用最大化边权增益的思想,逐步构建起各...

    storm讲义总结

    Storm是一个开源的分布式实时计算系统,可以简单、可靠的处理大量的数据流。 Storm有很多使用场景:如实时分析,在线机器学习,持续计算,分布式RPC,ETL等等。 Storm支持水平扩展,具有高容错性,保证每个消息...

    storm入门.pdf

    storm的入门,东西很不错!看完就算是基本入门啦!!还等什么?

    传智播客Storm项目实战课程 Storm的集群搭建实战 Storm项目学习视频教程

    01-storm简介 02-storm部署-1 03-storm部署-2 04-storm部署概念 05-streamgrouping 06-storm组件生命周期 07-storm可靠性1 08-storm可靠性2

    细细品味Storm_Storm简介及安装

    细细品味Storm_Storm简介及安装

    Apache Storm(apache-storm-2.3.0.tar.gz)

    Apache Storm(apache-storm-2.3.0.tar.gz) 是一个免费的开源分布式实时计算系统。Apache Storm 可以轻松可靠地处理无限制的数据流,实时处理就像 Hadoop 进行批处理一样。Apache Storm 很简单,可以与任何编程语言...

    storm安装包

    storm安装包storm安装包storm安装包storm安装包storm安装包storm安装包storm安装包

    Apache Storm(apache-storm-2.3.0-src.tar.gz 源码)

    Apache Storm(apache-storm-2.3.0-src.tar.gz 源码) 是一个免费的开源分布式实时计算系统。Apache Storm 可以轻松可靠地处理无限制的数据流,实时处理就像 Hadoop 进行批处理一样。Apache Storm 很简单,可以与...

    Storm实时数据处理

    Storm实时数据处理

    大数据-Storm实时数据处理

     《大数据技术丛书:Storm实时数据处理》通过丰富的实例,系统讲解Storm的基础知识和实时数据处理的最佳实践方法,内容涵盖Storm本地开发环境搭建、日志流数据处理、Trident、分布式远程过程调用、Topology在不同...

    Storm.Applied.Strategies.for.real-time.event.processing

    Storm Applied is a practical guide to using Apache Storm for the real-world tasks associated with processing and analyzing real-time data streams. This immediately useful book starts by building a ...

    storm.学习资料和代码

    获取到文件名称 : apache-storm-0.9.2-incubating.tar.gz 获取到文件名称 : Learning Storm [eBook].pdf 获取到文件名称 : Storm Blueprints.Patterns.pdf 获取到文件名称 : storm01.rar 获取到文件名称 : storm...

Global site tag (gtag.js) - Google Analytics