hadoop调度算法

标签: hadoop 调度 算法 | 发表时间:2015-12-14 12:49 | 作者:chengjianxiaoxue
出处:http://www.iteye.com

 

 

1 hadoop目前支持以下三种调度器:

 

FifoScheduler:最简单的调度器,按照先进先出的方式处理应用。只有一个队列可提交应用,所有用户提交到这个队列。没有应用优先级可以配置。

CapacityScheduler:可以看作是FifoScheduler的多队列版本。每个队列可以限制资源使用量。但是,队列间的资源分配以使用量作排列依据,使得容量小的队列有竞争优势。集群整体吞吐较大。延迟调度机制使得应用可以放弃跨机器或者跨机架的调度机会,争取本地调度。
      详情见官网 http://hadoop.apache.org/docs/r1.2.1/capacity_scheduler.html

FairScheduler:多队列,多用户共享资源。特有的客户端创建队列的特性,使得权限控制不太完美。根据队列设定的最小共享量或者权重等参数,按比例共享资源。延迟调度机制跟CapacityScheduler的目的类似,但是实现方式稍有不同。资源抢占特性,是指调度器能够依据公平资源共享算法,计算每个队列应得的资源,将超额资源的队列的部分容器释放掉的特性。
     详情见官网 http://hadoop.apache.org/docs/r1.2.1/fair_scheduler.html

 

 

2 比较:


 

3 配置FairScheduler

修改mapred-site.xml,然后重启集群
更多配置见conf/fair-scheduler.xml



 

 

 

4 配置CapacityScheduler
 

修改mapred-site.xml,然后重启集群
更多配置见conf/capacity-scheduler.xml


 



 

 

 

 



已有 0 人发表留言,猛击->> 这里<<-参与讨论


ITeye推荐



相关 [hadoop 调度 算法] 推荐:

hadoop调度算法

- - 互联网 - ITeye博客
1 hadoop目前支持以下三种调度器:. FifoScheduler:最简单的调度器,按照先进先出的方式处理应用. 只有一个队列可提交应用,所有用户提交到这个队列. CapacityScheduler:可以看作是FifoScheduler的多队列版本. 但是,队列间的资源分配以使用量作排列依据,使得容量小的队列有竞争优势.

Hadoop计算能力调度器算法解析

- Roger - 董的博客
本文描述了hadoop中的计算能力调度器(Capacity Scheduler)的实现算法,计算能力调度器是由Yahoo贡献的,主要是解决HADOOP-3421中提出的,在调度器上完成HOD(Hadoop On Demand)功能,克服已有HOD的性能低效的缺点. 它适合于多用户共享集群的环境的调度器.

hadoop资源调度器

- - ITeye博客
         hadoop支持多用户环境,在生产环境中,往往一个大的hadoop集群,供多个应用如Hive,Mahout等之类的使用. 在多用户环境下,有的用户提交的工作量很大、很频繁,而有的很少,还有的优先级很高,那么如何保证“按需”来为各个用户分配资源(内存、CPU、带宽、IO、磁盘)呢.         这里,我对hadoop的资源调度做个简单的归纳总结:.

如何编写Hadoop调度器

- Guancheng(冠诚) - 董的博客
在Hadoop中,调度器是一个可插拔的模块,用户可以根据自己的实际应用要求设计调度器,然后在配置文件中指定相应的调度器,这样,当Hadoop集群启动时,便会加载该调度器. 当前Hadoop自带了几种调度器,分别是FIFO(默认调度器),Capacity Scheduler和FairScheduler,通常境况下,这些调度器很难满足公司复杂的应用需求,因而往往需要开发自己的调度器.

Hadoop中Speculative Task调度策略

- - 董的博客
Dong | 可以转载, 但必须以超链接形式标明文章原始出处和作者信息及 版权声明. 网址: http://dongxicheng.org/mapreduce/hadoop-speculative-task/. Speculative Task思路是以空间换时间的,同时启动多个相同task,哪个完成的早,则采用哪个task的结果,这样明显可以提高任务计算速度,但是,这样却会占用更多的资源,在集群资源紧缺的情况下,合理的控制Speculative Task,可在多用少量资源情况下,减少大作业的计算时间.

LVS调度算法

- - CSDN博客推荐文章
rr 轮询调度(Round-Robin). 它将请求一次分配不同的RS,也就是在RS中均摊请求,算法简单,但是只适合于RS处理性能相差不大的情况(多个服务器硬件配置差不多). wrr加权轮询调度(Weighted Round-Robin). 它根据RS不同的权值分配任务,权值高的RS优先获得请求,分配到的连接数将比权值低的RS更多,权值相同的RS得到的连接数数目相同.

Naïve Bayes分类算法在Hadoop上的实现

- Roger - 董的博客
Naïve Bayes算法介绍. Naïve Bayes是一个简单有效的分类算法,已经得到广泛使用. 本文讨论了海量数据(TB级)下Naïve Bayes算法的实现方法,并给出了Hadoop上的实现方案. Naïve Bayes算法介绍. 朴素贝叶斯分类器基于一个简单的假定: 在给定目标值时属性值之间相互独立, 即特征对于给定类的影响独立于其它特征.

利用Mahout实现在Hadoop上运行K-Means算法

- - CSDN博客云计算推荐文章
    K-Means算法是基于分划分的最基本的聚类算法,是学习机器学习、数据挖掘等技术的最基本的 知识,所以掌握其运行原理是很重要的.     转载请注明出处:  http://hanlaiming.freetzi.com/?p=144.      一、介绍Mahout.     Mahout是Apache下的开源机器学习软件包,目前实现的机器学习算法主要包含有 协同过滤/推荐引擎, 聚类和 分类三个部分.

在Hadoop上运行基于RMM中文分词算法的MapReduce程序

- - Xiaoxia[PG]
我知道这个文章标题很“学术”化,很俗,让人看起来是一篇很牛B或者很装逼的论文. 其实不然,只是一份普通的实验报告,同时本文也不对RMM中文分词算法进行研究. 这个实验报告是我做高性能计算课程的实验里提交的. 所以,下面的内容是从我的实验报告里摘录出来的,当作是我学习hadoop分享出来的一些个人经验.

负载均衡调度算法

- - 企业架构 - ITeye博客
负载主机可以提供很多种负载均衡方法,也就是我们常说的调度方法或算法:. 轮循(Round Robin). 这种方法会将收到的请求循环分配到服务器集群中的每台机器,即有效服务器. 如果使用这种方式,所有的标记进入虚拟服务的服务器应该有相近的资源容量以及负载形同的应用程序. 如果所有的服务器有相同或者相近的性能那么选择这种方式会使服务器负载形同.