Hadoop集群与Hadoop性能优化
- - 学着站在巨人的肩膀上本文讲解一下Hadoop集群、Hadoop性能优化、Hadoop机架感知实现、Hadoop配置等,下面是有关这些命令的具体介绍. Hadoop性能优化:Hadoop机架感知实现及配置:分布式的集群通常包含非常多的机器,由于受到机架槽位和交换机网口的限制,通常大型的分布式集群都会跨好几个机架,由多个机架上的机器共同组成一个分布式集群.
tickTime=2000
initLimit=5
syncLimit=2
dataDir=/data/zookeeper
clientPort=2181
server.1=master01:2888:3888
server.2=master02:2888:3888
server.3=slave01:2888:3888
server.4=slave02:2888:3888
server.5=slave03:2888:3888 c> 将zookeeper-3.4.4复制到其他机器 export JAVA_HOME=/usr/java/jdk1.6.0_26
export HBASE_CLASSPATH=$HBASE_HOME/
export HBASE_HEAPSIZE=128
export HBASE_OPTS="-XX:+UseConcMarkSweepGC"
export HBASE_MANAGES_ZK=false
#vim hbase-0.94.5/conf/hbase-site.xml
<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
<property>
<name>hbase.rootdir</name>
<value>hdfs://master01:8020/hbase</value>
</property>
<property>
<name>hbase.cluster.distributed</name>
<value>true</value>
</property>
<property>
<name>hbase.zookeeper.property.dataDir</name>
<value>ls /data/zookeeper/</value>
</property>
<property>
<name>hbase.zookeeper.quorum</name>
<value>master01,master02,slave01,slave02,slave03</value>
</property>
</configuration>
#vim hbase-0.94.5/conf/regionservers
slave01
slave02
slave03 c> 使HBase的lib中的hadoop版本和HDFS集群使用的版本一致 d> 重命名hbase-0.94.5下的hbase-webapps 目录为webapps
#mv hbase-0.94.5/hbase-webapps/ hbase-0.94.5/webapps/