Hadoop向HDFS写入、删除、读取文件,


先说说遇到的一些问题:

1、比如Configuration  这个如果点Eclipse的红色小叉,。里面的import是会导入错误的东西的。。。。好几个类或者方法都会出现这个问题

2、用了几个网上的代码,莫名其妙错误,然后自己看书  结合网上代码改改 得到的下面版本

3、byte[]数组开得比较大然后写入的话,会存在问题是写入很多0,我的方法比较笨,对string判断,为0的之后的就不写。。

我实现的功能是把文件内容读入,删除,在建立一个同名文件写入新的东西

import java.net.URI;
import java.util.Arrays;
import java.io.*;

import org.apache.hadoop.io.*;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.*;
import org.apache.hadoop.fs.FileSystem;

public class FileSystemCat {
	public static void main(String[] args) throws IOException{
		String uri =  args[0];
		String uro = args[0];
		Configuration conf = new Configuration();
		try {
			FileSystem fs = FileSystem.get(URI.create(uri), conf);
			//FileSystem hdfs = FileSystem.get(URI.create(uro), conf);
			FSDataInputStream in = fs.open(new Path(uri));
			//IOUtils.copyBytes(in, System.out,4096,false);
			//in.seek(1);
			//IOUtils.copyBytes(in, System.out,4096, false);
			//文件读取
			byte[] ioBuffer = new byte[1024];  
	        int readLen = in.read(ioBuffer);      
	        while(readLen!=-1)  
	        {  
	            readLen = in.read(ioBuffer);  
	        }  
	        String str = new String(ioBuffer);
            int cnt=0;
	        while((int)(str.charAt(cnt)) != 0)cnt++;
	        str=str.substring(0, cnt);
	        System.out.println(str);
	        in.close();  
	        //文件的删除
	       fs.delete(new Path(uri), true);
	       //文件的写入
	        FSDataOutputStream out = fs.create(new Path(uro));			
	        out.write(("new1"+str).getBytes("UTF-8"));
	        out.flush();
	        out.sync();
	        out.close();
	        fs.close();
		} catch (Exception e) {
			e.printStackTrace();
		}
		
	}
}


相关内容

    暂无相关文章