Tachyon源码结构分析（一），tachyon源码结构分析

发布人：南京大学PASA大数据实验室舒鹏

前言

在上一篇博客中，我们介绍了Tachyon的安装、配置和使用，用户已经对Tachyon有了初步的了解。从本篇开始，我们将对Tachyon的源码结构进行分析，让用户进一步更深入的了解Tachyon的工作机制。由于源码分析的内容比较多，我们将分成多篇来详细阐述。本篇主要对Tachyon源码的Common模块与Client模块进行源码结构分析。

 

版本选择

Tachyon目前的最新发布版为0.6.0，最新开发版为0.7.0-SNAPSHOT。本篇我们选择的Tachyon版本为0.6.0。

官方链接：Tachyon-0.6.0

 

概述

Tachyon在系统架构上由Client、Master、Worker三个核心部分组成，对应在Tachyon源码中的一个或多个包（package）中。为了方便分析，我们将Tachyon源码按主要功能分为Client、Master、Worker以及Common模块。每个模块在Tachyon中各司其职，发挥着各自的作用。

• Client模块：Client模块是Tachyon向用户提供的一扇大门，用户只能在Client模块获取对Tachyon的访问接口，从而对Tachyon文件系统进行各种操作，包括文件的创建、删除、读取、写入等。
• Master模块：Master模块向Client和Worker提供远程调用接口，负责管理和协调Client与Worker的正常工作，保存了Tachyon文件系统的元数据信息、文件结构、日志和镜像文件以及Workers的信息列表等，同时Master向Client提供了关于元数据的处理操作，包括创建文件、创建表格、删除文件等。Worker向Master注册自己的信息加入到Master的管理，然后和Client一样通过心跳保持其与Master的联系并传递必要的数据信息。Client和Worker通过该模块的MasterClient类远程调用MasterServiceHandler类提供的方法。
• Worker模块：向Client提供远程调用接口，负责管理本地存储（Storage），在0.6.0版本中就是以层次存储（HierarchyStorage）的方式来管理本地数据。数据在Worker中以数据块为基本单位进行存储和管理，向用户提供以数据块为单位的操作。Client通过该模块的WorkClient类远程调用WorkerServiceHandler类提供的方法。
• Common模块：向Client、Master、Worker提供本地调用接口，定义了三个模块的通用操作，包括网络访问、数据格式、底层文件系统、用户信息、系统配置等。

下面的表格精确的列出了各个模块所包含的源码文件，具体对各个源码文件的分析在后面的博客中会详细介绍。

     

四个模块之间相互调用的关系如图1所示，Common向各个模块提供直接调用接口，Master向Client和Worker提供远程调用接口，Worker向Client提供远程调用接口（PS：这里需要注意的是Tachyon远程调用是通过thrift-0.91自动生成的，即tachyon.thrift包。thrift是RPC(RemoteProcedure Call)的一种java实现，tachyon.thrift中的代码都是根据’tachyon/core/src/thrift/tachyon.thrift’文件由thrift工具自动生成的，在源码分析部分我们不会讨论thrift相关的内容，也不把tachyon.thrift归为上述任何一个模块中）。本篇我们主要介绍Common模块和Client模块这两个更接近于Tachyon用户模块。

图1. Client、Master、Worker、Common模块关系图