头歌分布式文件系统HDFS 答案

2024-01-08 07:46| 来源: 网络整理| 查看: 265

第1关：HDFS的基本操作

在右侧命令行中启动Hadoop，进行如下操作。

在HDFS中创建/usr/output/文件夹；

在本地创建hello.txt文件并添加内容：“HDFS的块比磁盘的块大，其目的是为了最小化寻址开销。”；

将hello.txt上传至HDFS的/usr/output/目录下；

删除HDFS的/user/hadoop目录；

将Hadoop上的文件hello.txt从HDFS复制到本地/usr/local目录。

start-dfs.sh hadoop fs -mkdir /usr hadoop fs -mkdir /usr/output vim hello.txt hadoop fs -put hello.txt /usr/output hadoop fs -rm -r /user/hadoop hadoop fs -copyToLocal /usr/output/hello.txt /usr/local 第2关：HDFS-JAVA接口之读取文件

在右侧代码编辑区中编写代码实现如下功能：

使用FSDataInputStream获取HDFS的/user/hadoop/目录下的task.txt的文件内容，并输出，其中uri为hdfs://localhost:9000/user/hadoop/task.txt。

package step2; import java.io.IOException; import java.io.InputStream; import java.net.URI; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.FileSystem; import org.apache.hadoop.fs.Path; import org.apache.hadoop.io.IOUtils; public class FileSystemCat { public static void main(String[] args) throws IOException { //请在Begin-End之间添加你的代码，完成任务要求。 /********* Begin *********/ URI uri = URI.create("hdfs://localhost:9000/user/hadoop/task.txt"); Configuration config = new Configuration(); FileSystem fs = FileSystem.get(uri,config); InputStream in = null; try{ in = fs.open(new Path(uri)); IOUtils.copyBytes(in, System.out,2048,false); }catch (Exception e){ IOUtils.closeStream(in); } /********* End *********/ } }

第3关：HDFS-JAVA接口之上传文件

在右侧代码编辑区和命令行中，编写代码与脚本实现如下功能：

在/develop/input/目录下创建hello.txt文件，并输入如下数据：迢迢牵牛星，皎皎河汉女。纤纤擢素手，札札弄机杼。终日不成章，泣涕零如雨。河汉清且浅，相去复几许？盈盈一水间，脉脉不得语。《迢迢牵牛星》

使用FSDataOutputStream对象将文件上传至HDFS的/user/tmp/目录下，并打印进度。

先在命令行创建文件，并启动hadoop

mkdir /develop mkdir /develop/input cd /develop/input vim hello.txt start-dfs.sh

然后在代码文件中写入：

package step3; import java.io.BufferedInputStream; import java.io.FileInputStream; import java.io.FileNotFoundException; import java.io.IOException; import java.io.InputStream; import java.net.URI; import java.io.File; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.FSDataOutputStream; import org.apache.hadoop.fs.FileSystem; import org.apache.hadoop.fs.Path; import org.apache.hadoop.io.IOUtils; import org.apache.hadoop.util.Progressable; public class FileSystemUpload { public static void main(String[] args) throws IOException { //请在 Begin-End 之间添加代码，完成任务要求。 /********* Begin *********/ File localPath = new File("/develop/input/hello.txt"); String hdfsPath = "hdfs://localhost:9000/user/tmp/hello.txt"; InputStream in = new BufferedInputStream(new FileInputStream(localPath)); Configuration config = new Configuration(); FileSystem fs = FileSystem.get(URI.create(hdfsPath), config); long fileSize = localPath.length() > 65536 ? localPath.length() / 65536 : 1; FSDataOutputStream out = fs.create(new Path(hdfsPath), new Progressable() { long fileCount = 0; public void progress() { System.out.println("总进度" + (fileCount / fileSize) * 100 + "%"); fileCount++; } }); IOUtils.copyBytes(in, out, 2048, true); /********* End *********/ } }

第4关：HDFS-JAVA接口之删除文件

在右侧代码区填充代码，实现如下功能：

删除HDFS的/user/hadoop/目录（空目录）；

删除HDFS的/tmp/test/目录（非空目录）；

列出HDFS根目录下所有的文件和文件夹；

列出HDFS下/tmp/的所有文件和文件夹。

先在命令行启动hadoop

start-dfs.sh

然后在代码文件中写入：

package step4; import java.io.IOException; import java.net.URI; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.FileStatus; import org.apache.hadoop.fs.FileSystem; import org.apache.hadoop.fs.FileUtil; import org.apache.hadoop.fs.Path; public class FileSystemDelete { public static void main(String[] args) throws IOException { //请在 Begin-End 之间添加代码，完成本关任务。 /********* Begin *********/ String root = "hdfs://localhost:9000/"; String path = "hdfs://localhost:9000/tmp"; String del1 = "hdfs://localhost:9000/user/hadoop"; String del2 = "hdfs://localhost:9000/tmp/test"; Configuration config = new Configuration(); FileSystem fs = FileSystem.get(URI.create(root),config); fs.delete(new Path(del1),true); fs.delete(new Path(del2),true); Path[] paths = {new Path(root),new Path(path)}; FileStatus[] status = fs.listStatus(paths); Path[] listPaths = FileUtil.stat2Paths(status); for (Path path1 : listPaths){ System.out.println(path1); } /********* End *********/ } }

【本文地址】

公司简介

联系我们

头歌 分布式文件系统HDFS 答案

头歌分布式文件系统HDFS 答案