RCFileInputFormat的使用方法


在使用RCFileInputFormat时可以设置需要读取的列的序号:
 
  /**
 
  * Sets read columns' ids(start from zero) for RCFile's Reader. Once a column
 
  * is included in the list, RCFile's reader will not skip its value.
 
  *
 
  */
 
  public static void setReadColumnIDs(Configuration conf, ArrayList<Integer> ids) {
 
    String id = toReadColumnIDString(ids);
 
    setReadColumnIDConf(conf, id);
 
  }
 
如果使用RCFileInputFormat,在map当中传入的value为数据库表的一行。如要读取该行的每一列可以使用如下方法:
 
String[] columns = new String[columnNum];
 
for(int i=0;i<columnNum;i++){
 
columns[i]= new String(value.get(i).getData(),value.get(i).getStart(),
 
Value.get(i).getLength());
 
  }
 
其中,columnNum为读取的列数,然后在for循环中构造每一列。在这里可能会有疑问的地方,为什么每一列还需要start和length呢?因为value.get(i).getData()获取的是该行所有列的数据,不是针对该列的数据,所以需要“开始位置”和“长度”。在这里我们或许还可以推定:该行所有列value.get(i).getData()的方法其实是共享了一个byte数组。

相关内容

    暂无相关文章