垃圾佬的踩坑之路,ALL IN 主机搭建—各种坑的总结
追加修改(2021-03-28 20:50:52):
更正:后面搞了个unraid玩了一下,用几个sata盘试了一下,发现unraid功耗高是因为sas硬盘无法休眠的锅。
写在前面的总结
中间走了不少弯路(主板选择、硬盘笼配置、自制机箱),配置存在不少不合理的地方。因为我是卖掉原来的主机9700k和z370m主板,换的超微x99和e5 2680 v3,以换取更大的内存和更多的pcie插槽。但是组建完成之后发现现有的功能换一块z370atx完全能满足需要,没必要上x99。一块有三条x16插槽的atx主板可以满足显卡、阵列卡、万兆网卡和x1千兆网卡,同时4条内存可以提供64G的内存。从硬件上基本能够满足软路由、win10主机和nas的需要。
总的来说,花了不少冤枉钱,浪费了不少时间,大体上满足了自己的需要。
用的仍然是比较熟悉的ESXI6.7,具体系统安装、串流配置等等其他人已经写的不少了,直接参考就行。
系统安装,虚拟机配置
这里主要是对自己这次的折腾做一个记录,也列一列自己踩的坑。
起初是工作出差的日子越来越多,笔记本用多了,家里的主力机就闲置了,打算把主力机和原先的AIO主机什么的整合一下,一机实现win10游戏串流、nas下载储存、软路由等等功能。
最终成品
配置:
外观展示
这里仅根据我个人手头的设备情况和需要进行选择,现在回想一下有不少局限性,中间踩了不少坑。
选择x99平台搭建主要是考虑可以支持更大的内存和更多的pcie插槽。
大内存没什么好说的,一开始打算搞wingame主机+nas+软路由+MC服务器,x99或者x299这类板子堆内存比较容易,加内存成本低一点,ecc么也相对稳定一点。
多pcie插槽是因为需要插显卡、阵列卡、expander扩展卡、nvme扩展卡、万兆网卡(虚拟万兆的话可以不用)、千兆网卡,考虑显卡占用两个槽位,就需要7个pcie插槽了。
由于不让放淘宝链接,简单放几个图
机箱DIY
硬盘笼和超短机箱链接如下,自己外面不锈钢加工搞个罩子,拆掉机柜固定用的耳朵插进去就OK了。我整体采用的硬盘笼胶粘,超短机箱铆接的方式,这样避免硬盘笼内固定螺丝或者铆钉影响硬盘托盘,同时机箱压在上面铆好之后也能压紧硬盘笼。两边的把手是为了方便拿上拿下的,买大了,换个小一号的更合适。
此外,由于2U硬盘笼大概是85mm高,两个叠在一起只有17cm。考虑到sas盘发热比较严重,我用的三块12cm暴力扇,建议还是考虑14cm风扇。
运行噪音靠近机箱在60~70分贝,架子下面大概50~60分贝,还是比较吵的,但是我一来大部分时间都是出差不在家,二来在家也都是在书房或者卧室呆着,对我来说基本没什么影响。长期在家的盆友,建议还是搞个柜子放里面或者有单独的储物间什么的可以放一放。
问题总结
一,主板一开始选择的是华硕的x99ws/ipmi,5条插槽,不插万兆网卡的话够用了。最后放弃的原因是这板子各种掉内存,一次重新开机就有可能掉一半内存,最后血亏出掉了,换了超微板子。
二,nas搭建,由于我手头上闲置的sas盘比较多,计划是全部给nas用。一开始搞黑裙,结果修改成24盘位后开机就是可转移,一安装pat就恢复了,后来发现大部分都是只能改到20盘位,这里有知道怎么搞的大佬可以留言指导一下。
最直接让两块直通卡计划破产的点,是asr 71605这块4口16i的阵列/直通卡黑裙和freenas都不识别,esxi换驱动也不太行,直接给虚拟机搞驱动么,又不会,因此就改用一块LSI直通卡/阵列卡+expander扩展卡的方案。这样搞倒是很方便,freenas、omv什么的用直通卡,黑裙么就阵列卡(用阵列卡是因为黑裙中一个阵列只识别为一个盘,不用修改默认硬盘个数了。但是这样系统里面就读不到硬盘温度、状态这些东西了,多少有点数据亡命之徒的意思。)。最终选择就是9260+扩展卡带24块硬盘搞几个r6阵列了。
后来偶然看到了现在用的这款自带扩展的硬盘笼,可以12个盘只用1条8087sas线。就不需要额外插一块扩展卡了。换笼子之后就可以节约掉一块扩展卡的槽位。正好用来加2308直通卡直通几个ssd作为缓存。扩展卡的选择参考这个帖子。虽然我实际上还是买的hp的那个。。。
中间一度想用9364(其实硬盘笼和硬盘都不支持12G/s,就是膨胀了,觉得9260不够用了,换着玩玩)结果黑裙又不识别。。。难受的一匹。
三,nvme直通,原本在华硕x99上还是能够直接直通nvme ssd的,结果换成超微+esxi6.7之后切换直通就一直显示已切换需要重启,但是各种重启后还是无法添加到虚拟机中,6.7中nvme硬盘只能以rdm的方式给虚拟机用,无奈。
目前已安装虚拟机
win10、 RDM直通了4块nvme,rtx2070显卡,虚拟万兆网卡;跑跑游戏,steam串流啥的还是挺方便的。对于我这种到处跑的人来说,还是挺好的。这里要注意的是显卡上最好插一个显示欺骗器,防止N卡驱动提示未链接显示器不给用。
黑裙、直通LSI9260链接24块sas盘俩阵列盘,LSI2308链接4块512G ssd当缓存,虚拟万兆网卡;拿来挂挂pt,挂个kindle推送服务器啥的挺好的。
软路由、直通i350t4,虚拟万兆网卡;配合两个h3C刷的爱快AP使用,比之前软路由转poe交换机搞ap面板或者接一个路由器当ap方便不少。
MC服务器由于暂时周边的朋友没几个玩的,自己搞个服务器有点废就暂时没上,先装了个Ubuntu作为ext4读取用。
现在回家笔记本接扩展坞连显示器键盘,打游戏就steam串流一下,妥妥的。
最后说一下,开机功率在400w左右(硬盘加起来大概200w左右),毛算算一年电费1800。原本听说unraid功耗会小一点,弄了一个启动盘开机看了一下,开机390w,想想还是算了。想节约电费的朋友还是搞个单独的软路由加nas,串流主机独立出来,平时关机,用了就远程开机一下(向日葵,智能插座通电开机等都可以)。
自己折腾不一定省钱,但是折腾着就是爽啊。
最后问一下,第一版有朋友感兴趣么
royalhost
校验提示文案
困懒的北极熊
校验提示文案
成记
校验提示文案
rooooooy
校验提示文案
飞行蛐蛐
校验提示文案
p1y1c1
校验提示文案
本宝宝很凶
校验提示文案
农民的代言人
校验提示文案
frag0
校验提示文案
yuio
校验提示文案
哪个昵称不被占用呢
校验提示文案
小学生的自习课
校验提示文案
走路想事
校验提示文案
圣托里尼迪奥
校验提示文案
张小可可
校验提示文案
sonnyGZ
校验提示文案
我就是cy
校验提示文案
燃燃和怡宝
校验提示文案
junshouwen
校验提示文案
DJ小白
校验提示文案
张小可可
校验提示文案
小叶double
校验提示文案
网络虹云
校验提示文案
圣托里尼迪奥
校验提示文案
走路想事
校验提示文案
小学生的自习课
校验提示文案
哪个昵称不被占用呢
校验提示文案
小猫爱吃鱼89726
校验提示文案
布拉迪皮特
校验提示文案
yuio
校验提示文案
NameK
校验提示文案
frag0
校验提示文案
农民的代言人
校验提示文案
值友2795955694
校验提示文案
硬汉春哥
校验提示文案
糖糖大叔
校验提示文案
冰环闪现战士死
校验提示文案
值友8553463038
校验提示文案
双鱼爸比
校验提示文案
BitBoxKing
校验提示文案