hadoop streaming archives解压jar、zip、tar.gz的验证分析
这篇文章主要讲解了“hadoop streaming archives解压jar、zip、tar.gz的验证分析”，文中的讲解内容简单清晰，易于学习与理解，下面请大家跟着小编的思路慢慢深入，一起来研究和学习“hadoop streaming archives解压jar、zip、tar.gz的验证分析”吧！
1、archives作用描述：
Hadoop中DistributedCache方法之一（其他参考文章后面的参考文章） ，作用是 将指定文件分发到各个Task的工作目录下，并对名称后缀为“.jar”、“.zip”，“.tar.gz”、“.tgz”的文件自动解压，默认情况下，解压后的内容存放到工作目录下名称为解压前文件名的目录中，比如压缩包为dict.zip,则解压后内容存放到目录dict.zip中。为此，你可以给文件起个别名/软链接，比如dict.zip#dict，这样，压缩包会被解压到目录dict中。
2、测试jar文件（基本直接摘抄参考文档的）
$ ls test_jar/ file file1 file2 file = this is file1(实验的时候这里搞错了，应该是用file1，对结果无影响，不做修改了) file2 = this is file2 $ jar cvf cache.jar -C test_jar/ . $ hdfs dfs -put cache.jar /user/work/cachefile #touch 一个input.txt文件，然后put到 /user/work/cachefile $ hdfs dfs -cat /user/work/cachefile/input.txt cache/file （cache是解压后的目录名，用#重定义的别名，参加下面的） cache/file2 HADOOP_HOME=/home/hadoop/hadoop-2.3.0-cdh6.1.3 $HADOOP_HOME/bin/hadoop fs -rmr /cacheout/ $HADOOP_HOME/bin/hadoop jar $HADOOP_HOME/share/hadoop/tools/lib/hadoop-streaming-2.3.0-cdh6.1.3.jar \ -archives /user/work/cachefile/cache.jar#cache \ -Dmapred.map.tasks=1 \ -Dmapred.reduce.tasks=1 \ -Dmapred.job.name="Experiment" \ -input "cachefile/input2.txt" \ -output "/cacheout/" \ -mapper "xargs cat" \ -reducer "cat" hadoop fs -cat /cacheout/* this is file 2 this is file1
3、测试zip & tar.gz
分别打包zip ， tar.gz的压缩包，put到hdfs继续测试。
-archives /user/work/cachefile/cache.tar.gz#cache \ 只修改后缀名，会报文件找不到的错误
查错：确认是否能解压，将mapper 改成：
-mapper "ls cache" \
发现：jar文件 ：结果有4个文件，分别是META-INF、file、file1、file2
zip & tar.gz：只有一个，是test_jar的目录名
然后查看3种包的压缩文件，显然是解压成功了，找不到文件的原因是目录问题，这个就要详细研究下3中打包方式了，不再赘述。：
感谢各位的阅读，以上就是“hadoop streaming archives解压jar、zip、tar.gz的验证分析”的内容了，经过本文的学习后，相信大家对hadoop streaming archives解压jar、zip、tar.gz的验证分析这一问题有了更深刻的体会，具体使用情况还需要大家实践验证。这里是蜗牛博客，小编将为大家推送更多相关知识点的文章，欢迎关注！
免责声明：本站发布的内容（图片、视频和文字）以原创、转载和分享为主，文章观点不代表本网站立场，如果涉及侵权请联系站长邮箱：niceseo99@gmail.com进行举报，并提供相关证据，一经查实，将立刻删除涉嫌侵权内容。
评论