【hadoop】部署hadoop的伪分布模式

您所在的位置:网站首页 什么是完全分布式模式的特点 【hadoop】部署hadoop的伪分布模式

【hadoop】部署hadoop的伪分布模式

2024-07-17 04:35:06| 来源: 网络整理| 查看: 265

hadoop的伪分布模式 伪分布模式的特点部署伪分布模式hadoop-env.shhdfs-site.xmlcore-site.xmlmapred-site.xmlyarn-site.xml对NameNode进行格式化启动Hadoop 对部署是否完成进行测试免密码模式免密码模式的原理(重要)免密码模式的配置

伪分布模式的特点 在单机上,模拟一个分布式的环境具备Hadoop的所有的功能用于开发和测试 HDFS:NameNode、DataNode、SecondaryNameNode Yarn:ResourceManager、NodeManager 部署伪分布模式

前提:部署好hadoop的本地模式 点击设置hadoop的本地模式

伪分布模式的部署主要是将下面的参数文件的配置参数进行更改。

在这里插入图片描述

hadoop-env.sh

注:如果在本地模式已经配置完成,这个文件则不需要重复配置。

路径:/root/training/hadoop-2.7.3/etc/hadoop($HADOOP_HOME/etc/hadoop)

更改第25行 export JAVA_HOME=/root/training/jdk1.8.0_181

hdfs-site.xml

进入 /root/training/hadoop-2.7.3/etc/hadoop/ 路径找到 hdfs-site.xml 文件进行编辑。 在这里插入图片描述

vi hdfs-site.xml

将下面xml代码添加该文件

dfs.replication 1

在这里插入图片描述

core-site.xml

需要在hadoop目录下,先创建出tmp文件,作为HDFS对应的操作系统目录。

mkdir /root/training/hadoop-2.7.3/tmp

编辑操作与上面文件相同,则不演示。

fs.defaultFS hdfs://bigdata111:9000 hadoop.tmp.dir /root/training/hadoop-2.7.3/tmp mapred-site.xml

这个文件默认没有,需要我们先复制

cp mapred-site.xml.template mapred-site.xml

在这里插入图片描述

mapreduce.framework.name yarn yarn-site.xml yarn.resourcemanager.hostname bigdata111 yarn.nodemanager.aux-services mapreduce_shuffle 对NameNode进行格式化

执行下面这条命名

hdfs namenode -format

成功则出现下面这句话。 在这里插入图片描述

启动Hadoop start-all.sh

在这里插入图片描述

需要输入4次密码和yes。

至此部署完成,下面进行测试!

对部署是否完成进行测试

将本地文件上传到hdfs 在这里插入图片描述 进入/root/training/hadoop-2.7.3/share/hadoop/mapreduce/

hadoop jar hadoop-mapreduce-examples-2.7.3.jar wordcount /input /output/wc

在这里插入图片描述

停止集群

stop-all.sh

在这里插入图片描述

也需要输入4次密码,输入密码太麻烦,所以我们还需要配置免密码模式。

免密码模式 免密码模式的原理(重要)

在这里插入图片描述

免密码模式的配置 ssh-keygen -t rsa

在这里插入图片描述

ssh-copy-id -i .ssh/id_rsa.pub root@bigdata111

注:root@bigdata111 是你当前的主机名

在这里插入图片描述 在这里插入图片描述

免密码模式配置完成!



【本文地址】

公司简介

联系我们

今日新闻


点击排行

实验室常用的仪器、试剂和
说到实验室常用到的东西,主要就分为仪器、试剂和耗
不用再找了,全球10大实验
01、赛默飞世尔科技(热电)Thermo Fisher Scientif
三代水柜的量产巅峰T-72坦
作者:寞寒最近,西边闹腾挺大,本来小寞以为忙完这
通风柜跟实验室通风系统有
说到通风柜跟实验室通风,不少人都纠结二者到底是不
集消毒杀菌、烘干收纳为一
厨房是家里细菌较多的地方,潮湿的环境、没有完全密
实验室设备之全钢实验台如
全钢实验台是实验室家具中较为重要的家具之一,很多

推荐新闻


图片新闻

实验室药品柜的特性有哪些
实验室药品柜是实验室家具的重要组成部分之一,主要
小学科学实验中有哪些教学
计算机 计算器 一般 打孔器 打气筒 仪器车 显微镜
实验室各种仪器原理动图讲
1.紫外分光光谱UV分析原理:吸收紫外光能量,引起分
高中化学常见仪器及实验装
1、可加热仪器:2、计量仪器:(1)仪器A的名称:量
微生物操作主要设备和器具
今天盘点一下微生物操作主要设备和器具,别嫌我啰嗦
浅谈通风柜使用基本常识
 众所周知,通风柜功能中最主要的就是排气功能。在

专题文章

    CopyRight 2018-2019 实验室设备网 版权所有 win10的实时保护怎么永久关闭