五千年(敝帚自珍)

主题:【原创】家用硬盘阵列RAID实例-壹 -- 梦回唐朝

共:💬83 🌺127
分页树展主题 · 全看首页 上页
/ 6
下页 末页
  • 家园 【原创】家用硬盘阵列RAID实例-壹

    RAID:

    点看全图

    外链图片需谨慎,可能会被源头改

    这里讲的不是警察的RAID,而是电脑里面的RAID (redundant array of independent disks), 具体名词解释请看Wiki

    名词听起来似乎很专业,很高端。其实自从Intel和JMicron推出一系列消费级的集成于主板的磁盘阵列控制器后,磁盘阵列已经离我们非常近,你家里自装的电脑很可能就支持它。这种基于主板的阵列控制器给了我们一个低成本大容量高速度的存取解决方案。

    我最近就把家里的的文件服务器的硬盘升级了一番。首先将其中的历史遗留下来的两个IDE硬盘用一个1.5TB的SATA硬盘换掉,这样原有的八个硬盘减少到了全部7个SATA硬盘,减少了一些噪音和发热量,然后针对不同用途建立了两个RAID 0,以提高存取速度和单逻辑盘容量。

    服务器硬盘: 共7个,总容量超过6TB

    SATA WDC WD15EADS-00P8B0 1.5TB Green Power (Non-ADF)

    SATA WDC WD15EARS 1.5TB Green Power x 2 (ADF technology)

    SATA WDC WD64 640GB x 2 in RAID0, shown as disk 0 below.

    SATA WDC WD5000AAKS 500GB x 2 in RAID0, shown as disk 4 below.

    点看全图

    外链图片需谨慎,可能会被源头改

    升级后发现访问速度得到了相当大的提高(平均145MBps 兆字节)。

    我的这台机器的主板是GA-P35C-DS3R (rev. 2.0)。P35这一系列主板是适用于i5/i7之前的Intel CPU E和Q系列的主流选择,是很流行的一个主板/CPU组合。很多家庭电脑用户家里可能都是类似的搭配,比如说我家里有两台电脑都是类似的组合(一个是Intel E8400+GA-EP35-DS3 (rev. 2.1),一个是Intel E2140+GA-P35C-DS3R (rev. 2.0),使用的南桥芯片组为Intel的IC9H/R系列。再略低端一点的的主板用的可能是IC8H芯片,而更新一代的芯片是IC10H/R。这8/9/10系列芯片基本上是向后兼容的,其中集成的磁盘控制器提供的磁盘阵列的操作和功能也是类似的。所以我想把我的经验贴出来,也许可以给有类似需要(大容量存储,存取频繁)的朋友一些启示和帮助。

    不知道是否有朋友对这个有兴趣。如有的话我就学各位老大们继续扛铁牛。

    关键词(Tags): #家用硬盘阵列(嘉英)#RAID(嘉英)#硬盘阵列(嘉英)通宝推:嘉英,

    本帖一共被 1 帖 引用 (帖内工具实现)
    • 家园 【原创】家用硬盘阵列RAID实例-贰

      为什么要用RAID?

      我的服务器上的Hauppauge HVR 2200电视卡有两个tuner. 也就是说它可以同时录两个频道。这也就意味着它需要同时进行两个磁盘写操作。为了提高写的性能,我以前的解决方式是让它们分别写入位于两个不同硬盘的两个文件夹中,这样两个写操作就不会干扰。但是这种解决方式就是的录像文件的管理麻烦一些。而且由于不总是录两个频道,因此一个常见问题就是其中的一个硬盘都快写满了,而另外一个硬盘却还基本是空的。

      阵列正好可以解决这个问题。它把多个物理硬盘组合成一个逻辑盘,文件管理和负载平衡都被自然地解决了,同时还能保证较高的速度。

      同时,家庭用户的几个主要文件来源都日趋庞大:

      1. 照片:

      单个21兆像素的单反相机RAW文件一个平均20兆左右,转换成全尺寸的jpg格式后平均10兆,如果将处理流程存成tiff或其他中间格式的文件,那么存储空间还要不止翻倍。

      2. 高清摄像机:

      12分钟5d Mark2拍摄的视频大约为4GB.后期处理转码后的文件可能略小于这个尺寸,取决于codec的选择。中间文件要存的话就更大了。

      3. 高清电视录像:

      2小时电视平均需要15GB左右。

      因此我们需要越来越多的硬盘存储空间。

      阵列正好也解决了这个问题,它把多个小的物理硬盘组合成一个大的逻辑盘。

      为什么选择RAID 0?

      对于一个文件服务器而言,多个同时进行的读写操作是常见的事。就拿我这个电视服务器来说,一个很常见的例子就是同步给两个频道录像,同时为电视客户端读取一个已有的录像文件。因此,稳定的持续的高速度读写是关键。正如你可以从这个帖子 RAID 0, 1, 5, 1+0 简介中可以看到的那样, 在常见阵列方案中,RAID 0最好地满足了这一需求。

      此外,所有其他方案都需要牺牲一些磁盘容量来提供更好的可靠性,这对于一个家庭用户来说可以说是一种奢侈。

      所以最终我选择了RAID0,付出的代价是可靠性被极大降低。

      作为一个对此代价的补偿,我另外使用了一个外置硬盘作为永久备份用途,重要的数据会定期备份下来。不过说起来电视录像这个东西重要性不大,真丢了也就丢了,没什么大不了的。

      • 家园 RAID0不能提高多路并发写的性能多少

        RAID0可以看成是写速度加倍的单个硬盘,而且仅仅是写速度加倍,寻道之类的时间是不能减少的。而多路并发写,其瓶颈恰恰在寻道上。所以RAID0对提高你的应用的性能很有限。事实是,单个硬盘的速度足以支持两路标清视频录像。

        如果考虑你的应用,我倒觉得用JBOD+Ext2FS配以合适的参数是最恰当的。Ext2FS的特性是可以把不同的文件分布在产品的不同部位。而JBOD正好把组中不同磁盘的空间放到不同的线性地址上。而且JBOD可以使用不同大小的磁盘。

        • 家园 老兄能不能再给分析一下lvm?说一下lvm和jbod的

          区别?现在我用的是lvm,jbod倒只是听过个名字,不知道是什么东西

          感觉上lvm的性能提升需要有好的分区方案。

          因为楼主用的是windows所以我一直没说。存储服务器,特别是家用的,我认为最重要的是应该是可扩展性,现有的磁盘性能上做一般存储是足够了,用不着用组建raid阵列。家用的raid阵列一旦组建完成,再想扩充的话就非常麻烦,而且受到软硬件的制约。lvm方案主要是可以在可扩展性和性能方面找到一个平衡点。而且日后做数据转移也很快捷。当然,缺点是优化起来很麻烦,而且不能在winodows下应用。

          • 家园 lvm类似windows的dynamic volumn吧

            具体不知道,因为没用过。jbod=just bunch of disk,其实就是硬件支持的lvm或者dynamic volumn。lvm或者dynamic volumn与raid/jbod应该都可以同时使用。dynamic volumn还支持软件raid,linux也是支持的,不知道是否在lvm里面就是了。

            按我的理解,做raid家用主要的目的当然是安全了,性能确实没有太大必要,目前的硬盘性能对家用大多数应用似乎足够,而确实需要提升性能的应用,raid本身却又解决不了。备份虽然是一个提升安全性的做法,但备份实在麻烦,谁回家还经常折腾计算机去备份这备份那?所以要稍微有点速度要求就RAID1或RAID1+0,速度无所谓就RAID5,会便宜一点。

            其实我现在回家都不用计算机的,连笔记本的几乎不用。工作的时候一直用,回家哪还有心思折腾这玩意。我有电影什么的都放我们学校的服务器上有个10T的服务器现在还没人用,真是浪费。

      • 家园 drobo

        俺是懒人,觉得drobo的产品还可以,比较简便。

    • 家园 这个系列比较实用,多写写

      惊喜:你意外获得【铢钱】 八个

      2 枚 通宝已收,对方获得铢钱 4 个。通宝推荐已被记录。被推荐帖会以适当的方式被推广

      这个新铢钱一下子反应不过来,铢钱八个应该是半个通宝吧,那铢钱4个就是1/4个通宝。总共花两个通宝,回来3/4个,老铁回收1又1/4个通宝,再通过送花得宝发出来,通宝就是这么循环流通的啊

    • 家园 谢宝

      在高清电影和高像素相机的时代,大硬盘和RAID是太重要了。

      恭喜:你意外获得【通宝】一枚

      鲜花已成功送出,消耗 铢钱 1 个,可能得宝。可通过工具取消

      提示:此次送花为【有效送花赞扬,加乐善、声望、帖得花总数】。

      • 谢宝
        家园 正是:硬盘消耗很快

        几个主要文件来源:

        1. 照片:

        单个21兆像素的单反相机RAW文件一个平均20兆左右,转换成全尺寸的jpg格式后平均10兆,如果将处理流程存成tiff或其他中间格式的文件,那么存储空间还要不止翻倍。

        2. 高清摄像机:

        12分钟5d Mark2拍摄的视频大约为4GB.后期处理转码后的文件可能略小于这个尺寸,取决于codec的选择。中间文件要存的话就更大了。

        3. 高清电视录像:

        2小时电视平均需要15GB左右。

        两年前我总共有2TB容量,自以为很暴力很强大了,现在转眼已经扩展到6TB,所剩空间无几。

        • 家园 我还是喜欢刻DVD

          刻录DVD,做好索引贴在盒子上,找资料很快,如果是都积压在硬盘,一来很快就满了,二来找资料不容易。

          以前刻的是单层DVD,现在刻的是双层的DVD

          • 家园 我的观点正好相反

            以前也用过光盘备份,但是发现光盘容量太小,找起来麻烦。反而是硬盘现在可谓价钱便宜量又足,搜索起来也方便许多。

            • 家园 可是硬盘会因为硬盘损坏而数据丢失的问题

              可是硬盘会有一个因为硬盘损坏而数据丢失的问题,哪怕用RAID,还是有潜在发生问题的几率,譬如做RAID5,理论上坏一个硬盘都没事,但是有一个专门做硬盘数据恢复的人告诉我,大部分的RAID用到一定时候会有硬盘出现问题,但是没有告警(判断的方法是看着是不是每一个硬盘灯在读写数据过程中都有闪,如果有一个没有闪,就存在死掉的可能),那么在另一个硬盘死掉的时候,整个RAID没了。所以RAID也不是100%安全的,呵呵

        • 家园 "6兆左右"的RAW是5D2的sRAW吧?

          5D2原始RAW文件一般是24MB+

          不知楼主的工作机-文件服务器之间通过GbE持续传输速度有多快?

分页树展主题 · 全看首页 上页
/ 6
下页 末页


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河