当前位置: 代码网 > 科技>电脑产品>内存 > foshanxpj hadoop

foshanxpj hadoop

2024年07月28日 内存 我要评论
hadoop 安装

运行wordcount实例

cd /usr/local/hadoop
bin/hdfs dfs -mkdir -p /user/hadoop   #创建hdfs目录
bin/hdfs dfs -mkdir input
bin/hdfs dfs -put etc/hadoop/*.xml input  #将配置文件作为输入
bin/hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-*.jar grep input output 'dfs[a-z]+'

bin/hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-*.jar wordcount input output  #wordcount
bin/hdfs dfs -cat output/*     #查看输出oc

vim ~/.bashrc  #设置java_home
7、在文件第一行添加
export java_home=/usr/lib/jvm/java-8-openjdk-amd64
export hadoop_opts="-djava.library.path=${hadoop_home}/lib/native"

实操注意事项

1. su hadoop
2.sudo rm /var/lib/dpkg/lock
3.sudo rm /var/lib/dpkg/lock-frontend

vim  x删除  o加一行  :wq 退出且保存  :q! 退出不保存
esc :wq


老师加一行

rm tmp

jps

wordcut

start-all.sh

#jps不全

mv /usr/local/hadoop/tmp/dfs/data/current  /usr/local/hadoop/tmp/dfs/data/current.20220925

cd /usr/local/hadoop/sbin

./start-all.sh

#移除output文件夹

hdfs dfs -rm -r output

hadoop本地运行的两个案例。官方grep案例、官方wordcount案例。 - 腾讯云开发者社区-腾讯云

(0)

相关文章:

版权声明:本文内容由互联网用户贡献,该文观点仅代表作者本人。本站仅提供信息存储服务,不拥有所有权,不承担相关法律责任。 如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 2386932994@qq.com 举报,一经查实将立刻删除。

发表评论

验证码:
Copyright © 2017-2025  代码网 保留所有权利. 粤ICP备2024248653号
站长QQ:2386932994 | 联系邮箱:2386932994@qq.com