DDR爱好者之家

Hadoop文件的存储格式实例详解
站长资源 2024/12/24 佚名
48 1538
DDR爱好者之家 Design By 杰米

sequence文件存储格式

1.txt

纯文本格式，若干行记录。默认用字符编码存储

2.SequenceFile格式（顺序文件格式，可进行切割）

key-value 格式进行存储，最终形成的是一个二进制文件， 需用hadoop提供的api进行写入存储。

编写 写入 seq文件案例。

  Configuration configuration = new Configuration();
  configuration.set("fs.defaultFS","hdfs://s100:8020");
  FileSystem fileSystem = FileSystem.get(configuration);
  Path path = new Path("hdfs://s100:8020/user/seqmyfile.seq");
  SequenceFile.Writer writer = SequenceFile.createWriter(fileSystem, configuration, path, IntWritable.class, Text.class);
  writer.append(new IntWritable(1),new Text("gg1"));
  writer.append(new IntWritable(1),new Text("gg2"));
  writer.append(new IntWritable(1),new Text("gg3"));
  writer.append(new IntWritable(1),new Text("gg4"));
  writer.close();

 3.编写读取 seq 文件案例

 Configuration configuration = new Configuration();
  configuration.set("fs.defaultFS","hdfs://s100:8020");
  FileSystem fileSystem = FileSystem.get(configuration);
  Path path = new Path("hdfs://s100:8020/user/seqmyfile.seq");
  SequenceFile.Reader sr = new SequenceFile.Reader(fileSystem,path,configuration);
  IntWritable key = new IntWritable();
  Text value = new Text();
  while (sr.next(key,value)){
    System.out.println(key +":"+value );
  }

4.查看文件内容

$> hdfs dfs -text /user/myfile.seq
$> hdfs dfs -cat /user/myfile.seq （此命令查看会出现乱码）

seq 文件格式解析

顺序文件由文件头和随后的一条或多条记录组成 

---文件头------
--key-value----sync
--key-value----
--key-value----
--key-value----
--key-value----sync
--key-value----
--key-value----
--key-value----sync

文件头格式

SEQ+版本号+key类型class+value类型class + 压缩格式类型

代码案例

 /**
   * 读取文件位置
   */
  public void seekSeq() throws IOException {
    Configuration configuration = new Configuration();
    configuration.set("fs.defaultFS","hdfs://s100:8020");
    FileSystem fileSystem = FileSystem.get(configuration);
    Path path = new Path("hdfs://s100:8020/user/seqmyfile.seq");
    SequenceFile.Reader sr = new SequenceFile.Reader(fileSystem,path,configuration);
    IntWritable key = new IntWritable();
    Text value = new Text();
    sr.seek(253); // 定位到第253字节的位置，告诉指针下一次要定位的位置。
    sr.next(key,value); // 定位到第253字节的位置，并取出相应的值。
    System.out.println(key +" : " + value);
    sr.close();
  }
 
  /**
   * 读取seqfile 同步点
   */
  public void sync() throws IOException {
    /**
     * -----文件头-------
 128byte* --key-value----sync
 153byte* --key-value----
    .* --key-value----
    .* --key-value----
    .* --key-value----sync
     * --key-value----
     * --key-value----
     * --key-value----sync
     */
    Configuration configuration = new Configuration();
    configuration.set("fs.defaultFS","hdfs://s100:8020");
    FileSystem fileSystem = FileSystem.get(configuration);
    Path path = new Path("hdfs://s100:8020/user/seqmyfile.seq");
    SequenceFile.Reader sr = new SequenceFile.Reader(fileSystem,path,configuration);
    IntWritable key = new IntWritable();
    Text value = new Text();
    int syncPos = 12;
    sr.sync(syncPos);//如上图在写入文件的时候可一指定多少条记录写入一个同步点
    long pos = sr.getPosition();//获取下次要定位的字节位置。
    sr.next(key,value);
    System.out.println("syncPos : " + syncPos + "pos : " + pos +"key : "+key+"value : " + value);
  }

MapFile文件格式

1.是排序的seqfie，具有索引。要求key按照大小顺序添加

2.包含两个文件

  1. index 文件：索引和偏移量的映射，可以设置间隔，默认128（解释：第128key位置--->第256字节 指存入128个key 对应的 第128key的末尾位置是第128字节的位置。）
  2. data 文件：存放真实的数据。格式为key -value 。和seqfile文件类似

总结

以上所述是小编给大家介绍的Hadoop文件的存储格式实例详解，希望对大家有所帮助，如果大家有任何疑问欢迎给我留言，小编会及时回复大家的！

DDR爱好者之家 Design By 杰米
广告合作：本站广告合作请联系QQ：858582 申请时备注：广告合作（否则不回）
免责声明：本站资源来自互联网收集,仅供用于学习和交流,请遵循相关法律法规,本站一切资源不代表本站立场,如有侵权、后门、不妥请联系本站删除！
DDR爱好者之家 Design By 杰米
ddrfans.com DDR爱好者之家
8,675无损音乐
1,324高清电影
213破解软件
70,141收录资讯

稳了！魔兽国服回归的3条重磅消息！官宣时间再确认！

昨天有一位朋友在大神群里分享，自己亚服账号被封号之后居然弹出了国服的封号信息对话框。

这里面让他访问的是一个国服的战网网址，com.cn和后面的zh都非常明白地表明这就是国服战网。

而他在复制这个网址并且进行登录之后，确实是网易的网址，也就是我们熟悉的停服之后国服发布的暴雪游戏产品运营到期开放退款的说明。这是一件比较奇怪的事情，因为以前都没有出现这样的情况，现在突然提示跳转到国服战网的网址，是不是说明了简体中文客户端已经开始进行更新了呢？

更新日志

友情链接

杰晶网络 DDR爱好者之家 南强小屋 黑松山资源网 白云城资源网
DDR爱好者之家 Design By 杰米