利用Java代码操控HDFS
HDFS的Java API当利用eclipse安装好HDFS环境了以后(具体步骤参考上一篇博文https://blog.csdn.net/Andrea_null/article/details/83032732),就可以编写代码操控HDFS了。编写的代码要参考关于HDFS的Java API。此处列举一部分操控HDFS的JavaAPI示例。首先,想要操控HDFS,要先创建配置对象。创建配置对象的..
·
HDFS的Java API
当利用eclipse安装好HDFS环境了以后(具体步骤参考上一篇博文https://blog.csdn.net/Andrea_null/article/details/83032732),就可以编写代码操控HDFS了。编写的代码要参考关于HDFS的Java API。此处列举一部分操控HDFS的JavaAPI示例。
首先,想要操控HDFS,要先创建配置对象。创建配置对象的方法如下
Configuration conf = new Configuration(true);
然后再创建HDFS的对象
FileSystem fs = FileSystem.get(conf);
之后可以通过HDFS的对象对HDFS进行操作。
//取路径下所有文件的信息
listStatus = fs.listStatus(destPath);
//创建新文件
fs.createNewFile(dirPath);
//创建目录
fs.mkdirs(dirPath);
//上传到HDFS
fs.copyFromLocalFile(srcPath_Hdfs, destPath_Hdfs);
//下载
fs.copyToLocalFile(srcPath_Hdfs, destPath_Hdfs);
//删除文件
fs.delete(new Path(path));
//内部拷贝
FileUtil.copy(srcPath.getFileSystem(conf), srcPath, destPath.getFileSystem(conf), destPath,false, conf);
//内部移动
FileUtil.copy(srcPath.getFileSystem(conf), srcPath, destPath.getFileSystem(conf), destPath,true, conf);
//追加
FSDataOutputStream append = fs.append(new Path(path));
更多推荐
已为社区贡献1条内容
所有评论(0)