NAS 篇四:万兆+ SSD 缓存!打造超越白裙配置的黑裙![Part3] “抠”与优化
创作立场声明:1. 本系列文章讨论NAS与局域网
2. 如果你读了开头, 有“可我的宽带才300M”的想法, 那么这文章还不适合你的需求, windows下请按Ctrl+W, iOS请按Home键,安卓我不熟.....
追加修改(2019-12-29 10:18:43):
鉴于ZDM的文章自动排序打乱了我原来的文章发表顺序, 我把大家问得比较多的有用信息链接列表如下:
篇二: SATA SSD缓存实测与否定 同时有DS918+固件的硬件要求
篇四: 降成本, 提性能
还是建议大家按顺序阅读, 不容易产生误解
优化点啥?
上篇卖了个关子, 提到东芝RC500 做的SSD缓存, 虽然飞快, 但会没来由降速变成只有2,300M/s的速度。 东芝RC500, 最近也算当红炸子鸡了, ZDM上评测文章也很多, 基本上AS SSD测, 2000M读, 1200M写是有的。 其实, 我后来有把这2两块东芝自己拿到win10 主力机上测过, 和大家的得分差不多,那为啥会降速? 又是DSM6.2的锅? NO, 请看下图, 这是RC500 250G在win10下写测试的图, 文件总大小大约60G, 可以看到开始写速能维持在1100MB/s左右很稳定的,但在写入了大约3,40G的时候, 速度迅速掉到了350MB/s左右。
所以看来即使是闪存鼻祖东芝, TLC 的RC500也会用到模拟SLC的招数, 只不过做得比较好, 模拟SLC鸡血状态可以杠住40G左右。可能这对Nvme SSD 做OS盘不是问题, 毕竟4K更重要。但对做NAS存储缓存就有点尴尬, 因为一般往NAS写数据都是大块大块的, 比如备份程序啊, copy电影电视照片啊。据说RC500 500G容量的版本可以全盘杠住1200MB/s的写速度, 姑且相信, 那么我们要让黑群的Nvme缓存性能不掉, 就需要两块RC500 500G的SSD, 这个, 即使双十一, 也需要7,8百人民币了, 代价有点高。 于是, “抠”开始了。
“抠”之一
专业相关,可以抠上理论: 首先, RC500 500G这样的甚至更高端的RD500, 乃至三星970Pro, 上NAS 做缓存值吗? 抠的人说:不值! 虽然这些高性能NVme, 当然速度很快, 连续读能上3000MB/s, 连续写可以1800MB甚至2000MB以上,但是请注意我们用在NAS黑群上, 万兆网卡也就是极限了( 什么, 您用40G网卡? 那您还是去玩数据中心吧!)所以无论缓存多快, 你存取NAS的速度有个总上限那就是1100MB/s左右即万兆网口速度,所以970 pro, RD500 都有点杀鸡用牛刀, 何况这些超高性能SSD容量都是500G, RAID1两块的话, 成本蹭蹭就上去了。 有没有容量或256G以下, 读写速度只需要超过1000, 速度特别是写速度又能杠住全盘的呢? 很多著名的SSD都在这场筛选中倒下了, 比如著名的Intel 760P, 海康 HD2000Pro,东芝RC500.....但, 万能的淘宝总有惊喜, 比如三星SM961, 还有东芝XG3。 三星SM961大名鼎鼎, MLC闪存, 速度杠杠的, 但是首先价格偏高, 第二网络传说现在的SM961都是清0盘, 虽说MLC,但寿命无保证。接下来是东芝XG3, 名气不大, 速度一般般, 读2000, 写1100的样子, 但是胜在便宜啊!而且读写过1000, 对于万兆网卡的NAS已经足够了, “水桶”了嘛! 我在大淘宝网溜达了一小会, 230一条就拖了两条XG3 256G回家, 只是是不是清0盘......我真的不知道了, 反正是便宜MLC就好
反正NAS里RC500还在, XG3收到货, 我先在win10 主力机上装了测试持续读写, 方式是从一块海康H2000Pro 512G 上copy约80G的影音文件,测试结果如下, 发生得比较快, 只用手机拍了一张, 后面XG3进NAS了, 就再也没空拿出来再测了。
可见除了约60G处小掉了一下, 基本就是刚在1.1GB/s的写速度上。整个80G copy过程都杠住了! 我相信一块256G的SSD, 固件不可能做成80G即1/3容量都是模拟SLC模式, 所以我觉得连续读写应该是能坚持在1.1GB/s 全盘了。 那还犹豫啥,DSM里撤掉原来的缓存 , 卸下RC500, 换上两块XG3, 开机, DSM还是能妥妥滴认出新的Nvme SSD
老样子建立给硬盘1的存储区建立缓存盘, 打开连续I/O的缓存选项, 测试开始!
首先是大文件写缓存测试: 为了和RC500区别开, 这次用了一个约56G的4K REMUX如下图, 除了偶尔小小掉速到500MB/s左右,全程都稳定在800MB/s!
然后是大文件读测试, 很简单, 刚才写缓存了, 现在读回来一定时命中缓存的。 可以看到曲线虽基本在1GB/s但有点波动, 这才想起现在DSM正也在把缓存写回到HDD, 但是前篇提过这个速度很小,可能周期性影响到读缓存的速度:
接下来是4K小文件未命中读测试, 这次先从NAS读取大约几百个JPG和NEF文件, 总计约30G, 由于本来就是顺序存入NAS的, 读出也是反映稳定的HDD速度, 175MB/s左右
然后4K小文件命中缓存测试, 其实就是把已经读过的换一个主机的存储再读一次,因为这些文件第一次读时已经缓存, 所以100%缓存命中, 可见速度在缓缓上升到900MB然后稳定, 看来缓存组织也是顺序的,速度比实际4K测试(比如AS SSD)的结果好多了
最后时4K写测试, 这时波动比较大了,但基本在400~600MB/s间, 和RC500差别不大。
“抠”之一的总结:
虽然XG3是东芝老型号, 爆发力肯定不如RC500同容量新型号, 但MLC保证了全盘速度稳定, 大文件copy时比RC500更持久维持在高速, 加上船货便宜。 我果断这么抠了
“抠”之二
抠完SSD型号, 还是觉得整个NAS造价有点高, 主板B365M已经时买二手咸鱼货了, 还是花了480,包括两个PCIex16 在内的众多扩展槽有点浪费, B365芯片配E3 V5也有点杀鸡用牛刀, 我还要买新的DDR4 内存来配, 就算最便宜的科赋CJR 8G, 也要180啊。 于是, 又想到之前测SATA SSD缓存那个便宜平台:
技嘉B150M DS3H DDR3 + 原来留存的镁光黄马甲低压DDR3 1600 8G*2
当然还需要一点小配件:PCIeX1 软排线和PCIex1 转M.2
组装照, 其中一块SSD用排线和PCIex1转接贴在了最右边, 另一块占据m.2 槽
理论上说, 因为SSD读写缓存是RAID1 , 所以当其中一块速度只有PCIe x1 时, 整个缓存的速度也就变成了PCIex1. PCIe 3.0单Lane的带宽是8Gbps, 合 1GB/s, 当然实际会有损耗, 单考虑到我们的目标是喂饱10Gbps的万兆网也即1.1GB/s, 似乎总速度损失不会太大。 实际如何, 还是测试说话:
缓存命中时大文件读测试:
大文件写测试
4K文件写测试
对比上面用技嘉B365M 双M.2槽的结果, 大家应该很清楚了, 无论大文件还是4K读写,基本是掉了100MB/s左右。我是又准备抠这一把了, 毕竟B150M板子只要200块, 又有现成的16G DDR3用省得去咸鱼割肉
总结:抠不抠随你
这篇的主题是抠, 这就是因人而异了, 我信船货拆机货, 很多朋友可能就不信; 我有闲置DDR3, 很多朋友没有, 所以需不需要像我这样压榨NAS的建造成本, 大家扪心自问吧!
321mp
校验提示文案
wangc
校验提示文案
qnomadic
校验提示文案
fatmario
校验提示文案
破帽遮颜520
校验提示文案
Yamol
校验提示文案
iamlqc
校验提示文案
悬崖上的剁椒鱼头
校验提示文案
咸云
校验提示文案
simeon-wang
校验提示文案
edwad
校验提示文案
bruceyang2
校验提示文案
凤舞夜月
校验提示文案
harlow
校验提示文案
Btrfs
校验提示文案
風雷動
校验提示文案
JokerHu1
现在用的是金河田n1机箱,主板尺寸有限制,支持这个尺寸的主板最多只有一个x16和两个x1.......
x16打算接万兆网卡,剩下两个x1的查了下貌似支持pcie2.0(貌似h110芯片组主板都这样>,所以基本告别ssd加速了
但我现在用的是单盘14TB,读写都只能到200m/s,跑不满万兆实在有点浪费了。
符合机箱尺寸的还有几个微星的b250m主板,倒是有一个m2和两个pcie3.0的x1,以后有机会换下看看
校验提示文案
JokerHu1
现在用的是金河田n1机箱,主板尺寸有限制,支持这个尺寸的主板最多只有一个x16和两个x1.......
x16打算接万兆网卡,剩下两个x1的查了下貌似支持pcie2.0(貌似h110芯片组主板都这样>,所以基本告别ssd加速了
但我现在用的是单盘14TB,读写都只能到200m/s,跑不满万兆实在有点浪费了。
符合机箱尺寸的还有几个微星的b250m主板,倒是有一个m2和两个pcie3.0的x1,以后有机会换下看看
校验提示文案
bruceyang2
校验提示文案
edwad
校验提示文案
simeon-wang
校验提示文案
咸云
校验提示文案
悬崖上的剁椒鱼头
校验提示文案
風雷動
校验提示文案
iamlqc
校验提示文案
Yamol
校验提示文案
破帽遮颜520
校验提示文案
Btrfs
校验提示文案
harlow
校验提示文案
fatmario
校验提示文案
qnomadic
校验提示文案
wangc
校验提示文案
凤舞夜月
校验提示文案
321mp
校验提示文案