垃圾佬的踩坑之路,ALL IN 主机搭建—各种坑的总结

2021-02-07 20:11:17 54点赞 372收藏 69评论

追加修改(2021-03-28 20:50:52):
更正:后面搞了个unraid玩了一下,用几个sata盘试了一下,发现unraid功耗高是因为sas硬盘无法休眠的锅。

写在前面的总结

中间走了不少弯路(主板选择、硬盘笼配置、自制机箱),配置存在不少不合理的地方。因为我是卖掉原来的主机9700k和z370m主板,换的超微x99和e5 2680 v3,以换取更大的内存和更多的pcie插槽。但是组建完成之后发现现有的功能换一块z370atx完全能满足需要,没必要上x99。一块有三条x16插槽的atx主板可以满足显卡、阵列卡、万兆网卡和x1千兆网卡,同时4条内存可以提供64G的内存。从硬件上基本能够满足软路由、win10主机和nas的需要。

总的来说,花了不少冤枉钱,浪费了不少时间,大体上满足了自己的需要。

用的仍然是比较熟悉的ESXI6.7,具体系统安装、串流配置等等其他人已经写的不少了,直接参考就行。

系统安装,虚拟机配置

游戏串流

内网穿透

pt下载

这里主要是对自己这次的折腾做一个记录,也列一列自己踩的坑。

起初是工作出差的日子越来越多,笔记本用多了,家里的主力机就闲置了,打算把主力机和原先的AIO主机什么的整合一下,一机实现win10游戏串流、nas下载储存、软路由等等功能。

最终成品

配置:

垃圾佬的踩坑之路,ALL  IN 主机搭建—各种坑的总结

外观展示

垃圾佬的踩坑之路,ALL  IN 主机搭建—各种坑的总结

这里仅根据我个人手头的设备情况和需要进行选择,现在回想一下有不少局限性,中间踩了不少坑。

选择x99平台搭建主要是考虑可以支持更大的内存和更多的pcie插槽。

大内存没什么好说的,一开始打算搞wingame主机+nas+软路由+MC服务器,x99或者x299这类板子堆内存比较容易,加内存成本低一点,ecc么也相对稳定一点。

多pcie插槽是因为需要插显卡、阵列卡、expander扩展卡、nvme扩展卡、万兆网卡(虚拟万兆的话可以不用)、千兆网卡,考虑显卡占用两个槽位,就需要7个pcie插槽了。

由于不让放淘宝链接,简单放几个图

第一版买的这种,俩笼子需要6根8087线第一版买的这种,俩笼子需要6根8087线

第二版换成这种自带扩展的拆机笼子,就是稍微贵一点第二版换成这种自带扩展的拆机笼子,就是稍微贵一点

淘宝搜索超短机箱就可以淘宝搜索超短机箱就可以

为了方便操作,我把机箱后面板和硬盘装到了一面为了方便操作,我把机箱后面板和硬盘装到了一面

机箱DIY

硬盘笼和超短机箱链接如下,自己外面不锈钢加工搞个罩子,拆掉机柜固定用的耳朵插进去就OK了。我整体采用的硬盘笼胶粘,超短机箱铆接的方式,这样避免硬盘笼内固定螺丝或者铆钉影响硬盘托盘,同时机箱压在上面铆好之后也能压紧硬盘笼。两边的把手是为了方便拿上拿下的,买大了,换个小一号的更合适。

此外,由于2U硬盘笼大概是85mm高,两个叠在一起只有17cm。考虑到sas盘发热比较严重,我用的三块12cm暴力扇,建议还是考虑14cm风扇。

运行噪音靠近机箱在60~70分贝,架子下面大概50~60分贝,还是比较吵的,但是我一来大部分时间都是出差不在家,二来在家也都是在书房或者卧室呆着,对我来说基本没什么影响。长期在家的盆友,建议还是搞个柜子放里面或者有单独的储物间什么的可以放一放。

问题总结

一,主板一开始选择的是华硕的x99ws/ipmi,5条插槽,不插万兆网卡的话够用了。最后放弃的原因是这板子各种掉内存,一次重新开机就有可能掉一半内存,最后血亏出掉了,换了超微板子。

二,nas搭建,由于我手头上闲置的sas盘比较多,计划是全部给nas用。一开始搞黑裙,结果修改成24盘位后开机就是可转移,一安装pat就恢复了,后来发现大部分都是只能改到20盘位,这里有知道怎么搞的大佬可以留言指导一下。

最直接让两块直通卡计划破产的点,是asr 71605这块4口16i的阵列/直通卡黑裙和freenas都不识别,esxi换驱动也不太行,直接给虚拟机搞驱动么,又不会,因此就改用一块LSI直通卡/阵列卡+expander扩展卡的方案。这样搞倒是很方便,freenas、omv什么的用直通卡,黑裙么就阵列卡(用阵列卡是因为黑裙中一个阵列只识别为一个盘,不用修改默认硬盘个数了。但是这样系统里面就读不到硬盘温度、状态这些东西了,多少有点数据亡命之徒的意思。)。最终选择就是9260+扩展卡带24块硬盘搞几个r6阵列了。

后来偶然看到了现在用的这款自带扩展的硬盘笼,可以12个盘只用1条8087sas线。就不需要额外插一块扩展卡了。换笼子之后就可以节约掉一块扩展卡的槽位。正好用来加2308直通卡直通几个ssd作为缓存。扩展卡的选择参考这个帖子。虽然我实际上还是买的hp的那个。。。

中间一度想用9364(其实硬盘笼和硬盘都不支持12G/s,就是膨胀了,觉得9260不够用了,换着玩玩)结果黑裙又不识别。。。难受的一匹。

三,nvme直通,原本在华硕x99上还是能够直接直通nvme ssd的,结果换成超微+esxi6.7之后切换直通就一直显示已切换需要重启,但是各种重启后还是无法添加到虚拟机中,6.7中nvme硬盘只能以rdm的方式给虚拟机用,无奈。

目前已安装虚拟机

win10、 RDM直通了4块nvme,rtx2070显卡,虚拟万兆网卡;跑跑游戏,steam串流啥的还是挺方便的。对于我这种到处跑的人来说,还是挺好的。这里要注意的是显卡上最好插一个显示欺骗器,防止N卡驱动提示未链接显示器不给用。

黑裙、直通LSI9260链接24块sas盘俩阵列盘,LSI2308链接4块512G ssd当缓存,虚拟万兆网卡;拿来挂挂pt,挂个kindle推送服务器啥的挺好的。

软路由、直通i350t4,虚拟万兆网卡;配合两个h3C刷的爱快AP使用,比之前软路由转poe交换机搞ap面板或者接一个路由器当ap方便不少。

MC服务器由于暂时周边的朋友没几个玩的,自己搞个服务器有点废就暂时没上,先装了个Ubuntu作为ext4读取用。

现在回家笔记本接扩展坞连显示器键盘,打游戏就steam串流一下,妥妥的。

最后说一下,开机功率在400w左右(硬盘加起来大概200w左右),毛算算一年电费1800垃圾佬的踩坑之路,ALL  IN 主机搭建—各种坑的总结。原本听说unraid功耗会小一点,弄了一个启动盘开机看了一下,开机390w,想想还是算了。想节约电费的朋友还是搞个单独的软路由加nas,串流主机独立出来,平时关机,用了就远程开机一下(向日葵,智能插座通电开机等都可以)。

自己折腾不一定省钱,但是折腾着就是爽啊。

最后问一下,第一版有朋友感兴趣么垃圾佬的踩坑之路,ALL  IN 主机搭建—各种坑的总结

垃圾佬的踩坑之路,ALL  IN 主机搭建—各种坑的总结

垃圾佬的踩坑之路,ALL  IN 主机搭建—各种坑的总结


展开 收起
69评论

  • 精彩
  • 最新
  • 看着像是饭店停业,厨子把烟台拆了 [惊喜]

    校验提示文案

    提交
    不锈钢加工好找嘛,本来想用铝板来着,不会焊接。。。想想还是不锈钢板弯折加工简单。就是重量也很足 [黑线]

    校验提示文案

    提交
    收起所有回复
  • 思路可以的!其实完全可以分开,各司其职,不过嘛,玩儿就是折腾一下

    校验提示文案

    提交
    考虑稳定性什么的还是分开比较好。闲着折腾一下,也算是一直休息了。

    校验提示文案

    提交
    收起所有回复
  • 插满待机要300w了

    校验提示文案

    提交
    待机400w了。。。不过都这配置了,还是不要纠结功耗了

    校验提示文案

    提交
    怎么说呢,虽然我也是对功耗不敏感的人,但这个属实有些影响现实生活了 [邪恶]

    校验提示文案

    提交
    收起所有回复
  • 不错, 有了饭店厨房的既视感

    校验提示文案

    提交
    不锈钢板系列 [高兴]

    校验提示文案

    提交
    收起所有回复
  • 24块硬盘插满?

    校验提示文案

    提交
    3tsas盘,个人感觉是性价比最高的了

    校验提示文案

    提交
    收起所有回复
  • 哥们儿是单身吗 [邪恶]

    校验提示文案

    提交
    兄弟,不要扎心 [尴尬]

    校验提示文案

    提交
    收起所有回复
  • 9700k都卖了。。。。你这是有多豪。。。。

    校验提示文案

    提交
    豪的话就不会卖了。。。直接搞个独立主机远程控制挺好的,现在想想貌似折腾了个寂寞

    校验提示文案

    提交
    收起所有回复
  • 二手大船服务器 整机不好吗 真不理解为什么要自己组

    校验提示文案

    提交
    主要是那个散热真的是飞机起飞,同时一般长度都在600以上,架子上面没这么大的地方放。要是有储物间,就可以直接搞个机柜上那种了,门一关世界清净了。

    校验提示文案

    提交
    收起所有回复
  • 一般的主板没有ipmi啊

    校验提示文案

    提交
    其实我allin的情况下ipmi就没啥用了,远程访问ipmi还不如远程直接进esxi管理界面。特别是光猫改桥接之后。

    校验提示文案

    提交
    收起所有回复
  • 以前也觉的有好大的存储需要,后面发现一个老GEN8 加3块8T还用不到一半。,实际上是没有这么大的需求。

    校验提示文案

    提交
    确实,一般弄个10t最右够用了,弄个双盘位或者四盘位就可以了。我这属于自己瞎折腾着玩的

    校验提示文案

    提交
    收起所有回复
  • 硬盘笼怎么供电的?

    校验提示文案

    提交
    背板上有4个大4d接口

    校验提示文案

    提交
    收起所有回复
  • 和你配置差不多 不过我用的是浪潮as530的箱子背板 直接一块阵列卡可以直接接24个硬盘

    校验提示文案

    提交
    这个就牛批了,先用着,过几年存满了再搞个12g背板的。

    校验提示文案

    提交
    收起所有回复
  • 这么多盘做什么用

    校验提示文案

    提交
    挂pt。。。现在4k片源太大了

    校验提示文案

    提交
    收起所有回复
  • 我是一个连百度网盘送的容量都用不完的人 [皱眉]

    校验提示文案

    提交
    百度网盘不安全。。。经常各种检查什么的,然后资源就废了

    校验提示文案

    提交
    收起所有回复
  • unraid 下 sas 硬盘 不能休眠,其他系统下能休眠吗

    校验提示文案

    提交
    应该都不能吧,我查的信息是sas盘设计给服务器用的,为了保持稳定,一般不休眠的。后来我就全换成大容量SATA了

    校验提示文案

    提交
    unraid,可以休眠 sas硬盘,安装一个插件即可支持。见我这篇文章

    去看看

    校验提示文案

    提交
    还有1条回复
    收起所有回复
  • 这作业劳资不抄了,摔! [中枪]

    校验提示文案

    提交
  • 大佬牛*zsbd

    校验提示文案

    提交
  • 你这套7×24功耗也不是一般人能接受 [皱眉]

    校验提示文案

    提交
  • 电费不能少系列。

    校验提示文案

    提交
  • 原本以为自己已经是老鸟了……结果在仁兄面前,我不过是个青铜!!!久仰久仰…… [脸红]

    校验提示文案

    提交
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
372
扫一下,分享更方便,购买更轻松