Lustre和hdfs的区别 hdfs fastdfs对比

现存问题： （1）普通文件上传，上传文件只能存在于单一服务器中，并且必须依赖于tomcat等容器 （2）不支持集群 （3）文件数据冗余 （4）可扩展性差

1.概述 分布式文件系统是一个允许文件通过网络在多台节点上分享的文件系统，多台计算机节点共同组成一个整体，为更多的用户提供分享文件的空间。常见的分布式文件系统有：网盘，类似qq空间这些。2.分布式文件系统的优势 （1）海量文件数据存储 （2）文件数据高可用(冗余备份) （3） 读写性能和负载均衡3.FastDFS 与 HDFS的比较 （1）Hadoop中的文件系统HDFS主要解决并行计算中分布式存储数据的问题。其特点是：单个数据文件通常很大，采用了分块（切分）存储的方式，更适用于存储大数据大文件的使用场景。 （2）FastDFS主要用于互联网网站，为文件上传和下载提供在线服务。所以在负载均衡、动态扩容等方面都支持得比较好。FastDFS用于存储中小文件都是不错的，比如用户头像，一些较小的音视频文件等。

1.什么是FastDFS FastDFS是一个开源的轻量级分布式文件系统，它对文件进行管理，功能包括：文件存储、文件同步、文件访问（文件上传、文件下载)，解决 了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务，如相册网站、视频网站等等。

2.FastDFS的运用场景 FastDFS为互联网量身定制，充分考虑了冗余备份、负载均衡、在线性扩容等机制，并注重高可用、高性能等指标，使用FastDFS很容易搭建高性能的文件服务器集群提供文件上传、下载等服务。

3.FastDFS的组成成分 （1）FastDFS服务端有两个角色：跟踪器（tracker）和存储节点（storage）。跟踪器主要做调度工作，在访问上起负载均衡的作用。 （2）存储节点存储文件，完成文件管理的所有功能：存储、同步和提供存取接口，FastDFS同时对文件的metadata进行管理。所谓metadata就是文件的相关属性，以键值对（key value）方式表示。 （3）为了支持大容量，存储节点（服务器）采用了分卷（或分组）的组织方式。存储系统由一个或多个卷组成，卷与卷之间的文件是相互独立的，所有卷的文件容量累加就是整个存储系统中的文件容量。一个卷可以由一台或多台存储服务器组成，一个卷下的存储服务器中的文件都是相同的，卷中的多台存储服务器起到了冗余备份和负载均衡的作用。 （4）在卷中增加服务器时，同步已有的文件由系统自动完成，同步完成后，系统自动将新增服务器切换到线上提供服务。 （5）当存储空间不足或即将耗尽时，可以动态添加卷。只需要增加一台或多台服务器，并将它们配置为一个新的卷，这样就扩大了存储系统的容量。 （6）FastDFS中的文件标识分为两个部分：卷名和文件名，二者缺一不可。 以上摘自百度百科

4.FastDFS的常见术语 tracker：追踪者服务器，主要用于协调调度，可以起到负载均衡的作用，记录storage的相关状态信息 storage：存储服务器，用于保存文件以及文件的元数据信息 group：组(卷)，同组节点提供冗余备份，不同组用于扩容 mata data：文件的元数据信息，比如长宽信息，图片后缀，视频的帧数等

5.FastDFS架构原理

（1）架构

（2）文件上传下载原理

a.文件上传

b.文件下载