TH小破站

  • 首页
  • 容器
    • 认识Docker
    • DockerFile详解
  • k8s
    • 认识Kubernetes
    • Kubernetes部署--(kubeadm方式)
    • kubeasz部署k8s集群
    • Ansible-binary部署k8s集群-1.31.2
  • Ceph
    • 认识分布式存储
    • CPEH部署
  • CI/CD
    • DevOps认识
    • 部署--Gitlab
  • ELK
    • ELK简介
    • Elasticsearch
    • Kibana部署
    • Logstash
    • ELK--收集 tomcat 日志(实战)
  • HD
    • 认识--大数据
    • Hadoop-单机部署
    • Hadoop-伪分布部署
    • Hadoop-完全分布部署
    • Hadoop-(HA)完全分布部署
    • Ambari自动部署--Hadoop
  • Nginx
    • Nginx功能介绍
    • Nginx安全选项
    • Nginx配置文件简单介绍
    • 网站服务器部署
  • 监控
    • ZABBIX-部署(yum)
    • ZABBIX-编译安装
  • 云计算
    • KVM 概述
    • OpenStack企业级部署(T版)
    • OpenStack之dashboard部署
    • OpenStack-controller的高可用
    • openstack(Caracal版_ubuntu版本)部署
  • 数据库
    • mariadb与mysql
    • mysql主从
    • MySQL--冷备(实战)
    • MySQL--热备(dump表)
    • MySQL--热备(dump库)
    • 数据恢复实战案例
    • Xtrabackup实现MySql8.x全量备份
    • MyCat实现数据库读写分离
    • MHA实现数据库高可用
    • Percona XtraDB(PXC)实现数据库集群高可用
    • 数据库压力测试
    • PostgreSQL 基操
    • PostgreSQL备份恢复
    • PostgreSQL高可用
    • MongDB安装配置基础使用
    • MongoDB实现复制集
    • MongoDB备份还原
  • 自动化
    • ssh远程服务原理及配置
    • Ansible剧本文件应用
    • Ansible管理服务介绍
    • Ansible自动化部署node_exporter(包含升级,回滚)
    • Saltstack-部署安装
  • 脚本
    • 一键查看服务器资源利用率
    • 一键生成SSL证书
    • 保存指定数量的文件/目录
    • 初始化服务器
    • 扫描可用IP
    • 批量分发SSH密钥
    • 监控多主机磁盘脚本
    • 一键安装MySQL8.x脚本
    • Python脚本监控ES集群
    • 资源巡检脚本
    • 查看各用户使用的cpu占比
热衷于分享
架构师成长之路 !!!
  1. 首页
  2. 大数据
  3. 正文

Hadoop-单机部署

2023年12月3日 764点热度 0人点赞 0条评论

单机部署

单机部署模式介绍

  • 单机(本地模式)是Hadoop的默认部署模式。

  • 当配置文件为空时,Hadoop完全运行在本地。

  • 不需要与其他节点交互,单机(本地模式)就不使用HDFS,也不加载任何Hadoop的守护进程。

  • 该模式主要用于开发调试MapReduce程序的应用逻辑。

  • 单机(本地模式)是Hadoop的默认部署模式。

  • 当配置文件为空时,Hadoop完全运行在本地。

  • 不需要与其他节点交互,单机(本地模式)就不使用HDFS,也不加载任何Hadoop的守护进程。

  • 该模式主要用于开发调试MapReduce程序的应用逻辑。

1)上传相应的jar包

下载包的相应网址:

https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/

https://www.oracle.com/java/technologies/downloads/

[root@hadoop-stand-alone src]# ll
total 595432
-rw-r--r-- 1 root root 414624228 Nov 30 14:24 hadoop-2.10.2.tar.gz
-rw-r--r-- 1 root root 195094741 Oct 18 11:40 jdk-8u221-linux-x64.tar.gz

2)解压并配置环境

[root@hadoop-stand-alone src]# tar xf jdk-8u221-linux-x64.tar.gz 
[root@hadoop-stand-alone src]# tar xf  hadoop-2.10.2.tar.gz 
[root@hadoop-stand-alone src]# mv jdk1.8.0_221 /usr/local/jdk
[root@hadoop-stand-alone src]# mkdir /apps/ -p
[root@hadoop-stand-alone src]# mv hadoop-2.10.2 /apps/hadoop
`添加环境变量`
[root@hadoop-stand-alone src]# vim /etc/profile
#最后面添加
export JAVA_HOME=/usr/local/jdk
export HADOOP_HOME=/apps/hadoop
export PATH=${JAVA_HOME}/bin:${HADOOP_HOME}/bin:$PATH
`让配置文件生效`
[root@hadoop-stand-alone src]# source /etc/profile
`验证`
[root@hadoop-stand-alone src]# java -version
java version "1.8.0_221"
Java(TM) SE Runtime Environment (build 1.8.0_221-b11)
Java HotSpot(TM) 64-Bit Server VM (build 25.221-b11, mixed mode)

3)测试Hadoop是否可用

[root@hadoop-stand-alone ~]# mkdir input
`创建测试文件`
[root@hadoop-stand-alone ~]# vim input/test.txt
nihap
12333
123332
12333
192.168.139.33
192.168.139.33
192.168.139.31
`运行程序`
[root@hadoop-stand-alone ~]# hadoop jar /apps/hadoop/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.10.2.jar wordcount /root/input/ /root/output
`检查是否成功`
[root@hadoop-stand-alone ~]# cat /root/output/part-r-00000 
12333   2
123332  1
192.168.139.31  1
192.168.139.33  2
nihap   1
标签: Hadoop 大数据,Linux
最后更新:2023年12月3日

tanghao946

这个人很懒,什么都没留下

点赞
< 上一篇
下一篇 >

文章评论

razz evil exclaim smile redface biggrin eek confused idea lol mad twisted rolleyes wink cool arrow neutral cry mrgreen drooling persevering
取消回复
文章目录
  • 单机部署
    • 1)上传相应的jar包
    • 2)解压并配置环境
    • 3)测试Hadoop是否可用

COPYRIGHT © 2025 TH小破站. ALL RIGHTS RESERVED.

Theme Kratos Made By Seaton Jiang

渝ICP备2023013789号

渝公网安备50011702500926号