把品种中那八个恶心的处处存款和储蓄的大块数据都丢到法斯特DFS之火速搭建

      
在大家开发品种的时候,日常会遇上海大学块数据的难点(2M-100M),比如说保存报表中1w私家的ID号,他仿佛二个肿瘤一样,存款和储蓄在服务器哪个地方都

认为恶心,放在redis,mongodb中吗,一下子你就会接到报告警方,因为内部存款和储蓄器满了。。。放在mysql吧???你还得建立二个text字段,和一部分小字段混在联合署名,

恐怕有点恶心,还得单独拆出来,还得怕有些sql不标准的人挺喜欢select *
的,那速度挺恶心的呀。。。间接放到硬盘吧,没扩张性,你1T轻重缓急的硬盘又能

哪些,照样撑爆你,放在hadoop里面吧,对.net程序员来说,没有这一个缘分,好不不难微软有3个.net
hadoop sdk,说抛弃就放任了,兼具以上各个特色,

最终目光只可以落得法斯特DFS上了。

 

一: FastDFS

     
fastDFS的本心是贰个分布式的文件系统,所以我们能够上传各样小文件,包蕴那篇和大家说到的这么些一坨一坨的数目,同样你也得以认为是一对小文件,

上面小编画一下它的大约架构图:

图片 1

 

本人来解释一下:

1.
 fastDFS是根据Group的款式对file进行分组存储的,那里的group1你能够精晓成C盘,group2精通成D盘,全体的数码都是在Group来划分的。

2.
 为了提升读取质量和热备份,大家把group1放到了两台机器上,大约只怕认为有点浪费,对吧,事实正是这么。

3.
 为了抓实扩充性,因为单机是有囤积上限的,那时候你能够再新建一个group2,也正是D盘,放到别的机器上,那样你就扩大容积了,对吗。

4.
 trackerServer首要用于保存group和storage的一部分意况音讯,主要和client端进行互动,重返正确的storeage
server地址,这一个和hadoop的

     namenode其实是同二个角色的。

5.
那里要留心的贰个地点正是,client端在蕴藏file的时候,需求报告trackerserver,你要求仓库储存到哪二个group中,比如group1仍然group2?

 

二:下载安装【CentOS】

     为了便于测试,那里自个儿安插到一台CentOS了。

 

1.
下载fastDFS基础包: https://github.com/happyfish100/libfastcommon/releases

图片 2

2.
然后下载fast源码包:https://github.com/happyfish100/fastdfs/releases

图片 3   

3.
wget之后,先把libfastcommon给安装一下

tar -xzvf V1.0.36
cd libfastcommon-1.0.36
./make.sh && ./make.sh install

  再把fastdfs安装一下。

tar -xzvf V5.11
cd fastdfs-5.11
./make.sh &&./make.sh install

 

那样的话,大家的fast尽管安装好了,因为是暗中认可安装,所以部署文件是在
/etc/fdfs目录下,运维服务在/etc/init.d下。

[root@localhost ~]# cd /etc/fdfs
[root@localhost fdfs]# ls
 client.conf client.conf.sample storage.conf.sample storage_ids.conf.sample tracker.conf.sample

[root@localhost fdfs]# cd /etc/init.d
[root@localhost init.d]# ls
fdfs_storaged  fdfs_trackerd  functions  netconsole  network  README
[root@localhost init.d]# 

 

  然后再把多个storage.conf.sample 和
tracker.conf.sample中copy出我们需求布置的文件。

[root@localhost fdfs]# cp storage.conf.sample storage.conf
[root@localhost fdfs]# cp tracker.conf.sample tracker.conf
[root@localhost fdfs]# ls
client.conf  client.conf.sample  storage.conf  storage.conf.sample  storage_ids.conf.sample  tracker.conf  tracker.conf.sample
[root@localhost fdfs]# 

 

  4.  tracker.conf 配置

    这些布局文件,首若是安顿内部的base_path。

# the base path to store data and log files
base_path=/usr/fast/fastdfs-5.11/data/tracker

   钦点完路径之后,我们创设一个data文件夹和tracker文件夹。

 

  1. storage.conf 配置

    那么些布局文件,我们根本配备三样东西。

  1.  本storage服务器的groupname,我们看过架构图应该也掌握了,对啊。

  2.  为了抓好磁盘读写,能够钦点本groupname的file存款和储蓄在怎样磁盘上。

  3. 点名和哪一台trackerserver进行相互。

    # the name of the group this storage server belongs to
    #
    # comment or remove this item for fetching from tracker server,
    # in this case, use_storage_id must set to true in tracker.conf,
    # and storage_ids.conf must be configed correctly.
    group_name=group1

# the base path to store data and log files
base_path=/usr/fast/fastdfs-5.11/data/storage

# path(disk or mount point) count, default value is 1
store_path_count=1

# store_path#, based 0, if store_path0 not exists, it's value is base_path
# the paths must be exist
store_path0=/usr/fast/fastdfs-5.11/data/storage/0
#store_path1=/home/yuqing/fastdfs2

# tracker_server can ocur more than once, and tracker_server format is
#  "host:port", host can be hostname or ip address
tracker_server=192.168.23.152:22122

 

然后在data目录下创立storage和0文件夹

 

6.开行法斯特DFS,能够看看22122的端口已经运营了,表明搭建成功

[root@localhost ~]# /etc/init.d/fdfs_trackerd start
Starting fdfs_trackerd (via systemctl):                    [  OK  ]
[root@localhost ~]# /etc/init.d/fdfs_storaged start
Starting fdfs_storaged (via systemctl):                    [  OK  ]
[root@localhost 0]# netstat -tlnp
Active Internet connections (only servers)
Proto Recv-Q Send-Q Local Address           Foreign Address         State       PID/Program name    
tcp        0      0 0.0.0.0:22122           0.0.0.0:*               LISTEN      4346/fdfs_trackerd  
tcp        0      0 192.168.122.1:53        0.0.0.0:*               LISTEN      1786/dnsmasq        
tcp        0      0 0.0.0.0:22              0.0.0.0:*               LISTEN      1129/sshd           
tcp        0      0 127.0.0.1:631           0.0.0.0:*               LISTEN      1128/cupsd          
tcp        0      0 0.0.0.0:23000           0.0.0.0:*               LISTEN      4171/fdfs_storaged  
tcp        0      0 127.0.0.1:25            0.0.0.0:*               LISTEN      1556/master         
tcp6       0      0 :::22                   :::*                    LISTEN      1129/sshd           
tcp6       0      0 ::1:631                 :::*                    LISTEN      1128/cupsd          
tcp6       0      0 ::1:25                  :::*                    LISTEN      1556/master         
[root@localhost 0]# 

 

三:使用C#客户端

   
 在github上有1个C#的客户端,差不多能够使用一下:https://github.com/smartbooks/FastDFS.Client 
 也许通过nuget上搜一下:

图片 4

 

class Program
    {
        static void Main(string[] args)
        {
            ConnectionManager.InitializeForConfigSection(new FastDfsConfig()
            {
                FastDfsServer = new List<FastDfsServer>()
                {
                    new FastDfsServer()
                    {
                         IpAddress="192.168.2.25",
                          Port=22122
                    }
                }
            });

            var storageNode = FastDFSClient.GetStorageNode("group1");

            var path = FastDFSClient.UploadFile(storageNode, new byte[10000], ".txt");

            var rsp = FastDFSClient.DownloadFile(storageNode, path);

            Debug.WriteLine("上传的文件返回路径:{0}, 下载获取文件大小:{1}", path, rsp.Length);
        }
    }

 

图片 5

 

好了,本篇就说这么多了,希望对你有赞助。