FastDFS 简介

什么是 FastDFS

FastDFS 是一个开源的轻量级分布式文件系统。它解决了大数据量存储和负载均衡等问题。特别适合以中小文件(建议范围:4KB < file_size <500MB)为载体的在线服务,如相册网站、视频网站等等。

FastDFS 相关概念

三种角色

一个 FastDFS 集群中存在三种角色:Storage、Tracker 和 Client

Storage

Storage,存储节点,负责数据的物理存储。一个集群中有多个 Storage,Storage 启动时可以指定分组名称,相同分组名的 Storage 组成一个组,同组内 Storage 存储的数据应该是一致的,从而达到数据冗余备份的目的。

Storage 的存储依赖于本地文件系统。如果一台机器挂载了 5 个磁盘,则这 5 个磁盘在本地文件系统中对应 5 个数据存储目录。Storage 会在每个数据存储目录下创建 256 个二级子目录,在每个二级子目录下再创建 256 个三级子目录(共 256*256=65536 个三级子目录)。用户上传的一个文件,最终被 Storage 存储为某个三级子目录下的一个本地文件。

另外,Storage 还会定期向 Tracker 汇报自身信息,主要包含自身所属的分组、向同组内其他 Storage 同步数据的进度等。

Tracker

Tracker,跟踪者节点。一个集群中可以有多个 Tracker,他们的地位是同等的。Tracker 通过接收 Storage 的汇报信息,维护整个集群的状态,并对来自于 Client 的请求进行负载均衡。

由于 Storage 会定期向所有的 Tracker 汇报信息,因此每个 Tracker 都会维护一个从分组名到 Storage 列表的映射关系。Client 向集群写入数据或者读取数据时,都需要先与任意一个 Tracker 连接:
(1)当写入数据时,Tracker 根据一定的策略,从映射关系中选择某个分组的某个 Storage 返回给 Client,然后 Client 连接该 Storage 写入数据。
(2)当读取数据时,结合文件的 ID【ID 中包含分组名等信息】,Tracker 根据一定的策略,从映射关系中选择某个分组的某个 Storage 返回给 Client,然后 Client 连接该 Storage 读取数据。

Client

即请求发起方。Client 通过 API 向 FastDFS 写入、读取、删除数据等。

其他概念

一个 FastDFS 集群可以有多个组,每个组包含多个 Storage。同一组内部,Storage 的地位是对等的,文件的上传、删除等操作可以在同组内任意 Storage 上进行,这些操作最终会同步给同组内其他 Storage。

Metadata

元数据,是与文件相关的其他属性,有 Client 在上传文件时指定。文件的元数据和文件一起,被保存在 storage 上。元数据表现为键值对形式,如 width:1024,height:768

文件 id

Client 端上传一个文件后,最终文件被 Storage 保存为一个本地文件。同时 Storage 向 Client 端返回文件 id,后续 Client 端可以通过该文件 id 读取或者删除文件。
一个文件 id 的样式如下:

/组名/一级目录/二级目录/三级目录/文件名.文件后缀名

对应的一个样例:

/group1/M00/00/00/wKgz6lnduTeAMdrcAAEoRmXZPp870.jpeg

其中,

FastDFS 中文件操作

FastDFS 中文件操作,主要涉及到 Client 端向集群上传文件、从集群读取文件,以及集群内部文件的同步。

文件上传过程

总体过程:

涉及细节:

文件下载过程

一个文件的下载过程总体如下:

文件上传过程中,FastDFS 的某台 Storage 接收到文件后,会立马向 Client 返回文件 id,此时文件还未同步到同组内的其他 Storage 机器。为了保证 Client 根据文件 id 能正确获取到文件内容,Tracker 在选择 Storage 时,遵循如下规则:

(1)从文件 id 中解析出文件上传时 Storage 对应的 group、ip、文件创建时间
(2)根据 ip,如果该 Storage 还存在的话,则肯定能从该 Storage 中读取到文件,因此向 Client 端返回该 Storage
(3)对于同组内的其他 Storage,如果某个 Storage 的同步时间戳等于文件创建时间,且当前时间与文件创建时间的时间差,大于文件同步最大时间(如 5 分钟),则可认为经过最大同步时间后,文件已被同步到了该 Storage 上,因此可向 Client 端返回该 Storage
(4)对于同组内的其他 Storage,如果文件创建时间早于某个 Storage 的同步时间戳,则该文件已被同步到了该 Storage 上,因此可向 Client 端返回该 Storage
(5)如果当前时间与文件创建时间的时间差,大于同步延迟阈值(如一天),则认为经过同步延迟阈值时间,文件肯定已经同步了。所以可返回同组内任意一 Storage

集群内部文件同步过程

一个文件被上传后,源 Storage 向 Client 端返回文件 id。同时,源 Storage 内部会写一份 binlog 文件,该文件记录了文件名、文件创建时间等信息(不记录文件内容)。源 Storage 会对同组内的其他每个 Storage,创建一个对应的同步线程。该同步线程会读取 binlog,根据 binlog 信息向对应的 Storage 进行文件同步。同步线程还会记录下同步进度,以便于系统重启后的继续同步。
同步进度会作为汇报信息的一部分,汇报给 Tracker。在 Client 端读取文件时,Tracker 会根据同步进度来确定对应的 Storage。
比如一个 group 内有 A、B、C 三个 storage server,A 向 C 同步到进度为 T1 (T1 以前写的文件都已经同步到 B 上了),B 向 C 同步到时间戳为 T2(T2 > T1),tracker 接收到这些同步进度信息时,就会进行整理,将最小的那个做为 C 的同步时间戳,本例中 T1 即为 C 的同步时间戳为 T1(即所有 T1 以前写的数据都已经同步到 C 上了);同理,根据上述规则,tracker 会为 A、B 生成一个同步时间戳。

FastDFS 的优缺点

优点:
(1)不管是上传下载,同步恢复,对机器造成的负载非常低,因此 FastDFS 对机器的硬件配置要求低。
(2)文件上传时只要写入了源 Storage 就返回,因此上传速度很快
(3)可将不同业务的数据也到不同的组,实现业务数据隔离
(4)大规模成功案例多
缺点:
(1)由于文件在写入源 Storage 就返回,因此存在数据丢失的风险。
(2)由于不会对小文件进行整合,导致小文件较多的情况下,故障恢复时间长。
(3)由于不会对大文件进行分片存储,当大文件为热点数据时,访问压力会集中到固定的分组机器上

FastDFS 最佳部署

生产环境中,往往会将 FastDFS 与 Nginx 结合,除了通过 FastDFS API 实现文件访问外,还可以通过 Http 的方式访问文件。架构示意图如下:

image.png

参考资料

分布式文件系统 FastDFS 详解
fastdfs 和 ceph 对比
FastDFS 之 Binlog 同步
Fastdfs 与 nginx 结合提供 web 服务
FastDFS github 源码

  • FastDFS

    FastDFS 是用 C 语言编写的一款开源分布式文件系统。FastDFS 为互联网量身定制,充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用 FastDFS 很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。

    13 引用 • 10 回帖 • 1 关注
  • 分布式
    60 引用 • 138 回帖 • 3 关注
  • 文件系统
    3 引用 • 2 回帖
  • 大数据

    大数据(big data)是指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合,是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

    72 引用 • 106 回帖 • 2 关注
回帖
请输入回帖内容...