当前位置: 代码迷 >> 综合 >> java远程连接hadoop
  详细解决方案

java远程连接hadoop

热度:58   发布时间:2024-02-22 13:50:58.0

java远程连接hadoop

cweijan

最近在学习hadoop,在linux上面启动hadoop后准备用java操作hadoop,看了中文的资料都是坑~  查了英文资料一番折腾终于连上了

  1.  
  2. String HDFS_PATH = "hdfs://192.168.203.128:9000"; //要连接的hadoop

  3. Configuration configuration = new Configuration();

  4. configuration.set("fs.defaultFS", HDFS_PATH);

  5. //连接文件系统,FileSystem用来查看文件信息和创建文件

  6. FileSystem fileSystem = FileSystem.get(configuration);

  7.  
  8. //操作文件io,用来读写

  9. configuration.set("fs.hdfs.impl", DistributedFileSystem.class.getName()); //设置处理分布式文件系统

  10. URL.setURLStreamHandlerFactory(new FsUrlStreamHandlerFactory(configuration));

  11. //FsUrlStreamHandlerFactory() 不加参数连接会无法识别的hdfs协议,原因是hadoop在获取处理hdfs协议的控制器时获取了configuration的fs.hdfs.impl值

  12.  
  13. //获取Hadoop文件

  14. InputStream inputStream = new URL(HDFS_PATH + "/hello.txt").openStream();

  15.