标签存档: 大数据

hadoop namenode rpc explode

一 背景

阅读全文…

spark各类节点启动JVM设置

最近遇到的一个问题,spark job history 经常很卡,看了下内存情况。默认是看了1G,-Xmx1g.

阅读全文…

微信小程序的简单看法

刚一个多年的老友打电话来说,想聊聊看是否在小程序上是否有机会创业走出一条路,就顺便记录一下自己对于小程序的看法。

阅读全文…

phoenix安装手记

1.下载代码

阅读全文…

crate 集群搭建

crate 的介绍可见:https://crate.io/

阅读全文…

spark核心要点

整理一份关于spark核心的脑图,这基本涵盖了spark中比较关键的东西了。

阅读全文…

hadoop中使用到的设计模式

设计模式(Design pattern)的官方定义是一套被反复使用、多数人知晓的、经过分类编目的、代码设计经验的总结。解决的是代码可重用、代码更容易被他人理解、保证代码可靠性的问题。
Hadoop作为一个06年开始开源走到现在的框架,已经是一个非常成熟和经典的系统了。这个里面对于设计模式的使用也是非常的经典,本篇主要介绍一下Hadoop中使用到的设计模式,非常值得学习。额外需要提到的是这里的设计模式特指:四人帮23种模式.
关于设计模式的详细介绍可见:http://www.runoob.com/design-pattern/design-pattern-tutorial.html
1.创建型模式
1.1 单例模式 单例模式(Singleton Pattern)
RMPolicyProvider : 双重锁的形式单例实现。
NMPolicyProvider,HDFSPolicyProvider : 饿汉式的单例实现。
一般是要求全局单例的要求。

阅读全文…

Hadoop中的类命名

干程序员这行,一个很常见的工作就是需要给程序中的变量、方法、类命名,那么如何合理的取名字就是一个非常有意思和挑战的事情。通常来说,不好定义变量有以下几种风格。

阅读全文…

spark-内存管理及配置

核心概念


RDD 的所有转换都是惰性的

阅读全文…

hive on spark的几个参数调整

spark.executor.cores : 每个executor允许分配的cpu ,建议是在5-7之间

阅读全文…

Pages: 1 2 3 Next