群晖+软路由+win10,Gen8 ESXi方案使用体验+直通踩坑记

2020-02-28 11:16:22 143点赞 1371收藏 201评论

引言:

上一篇《Gen8魔改ITX,实现ESXi虚拟NAS+Openwrt+Win10,打造家庭网络中心》主要讲了整体的组建过程,将我搭建时参考的资料进行归档整理添加在文中,方便值友们查询。本篇重点谈一下后续改造以及使用体验。

Gen8魔改ITX,实现Esxi虚拟NAS+Openwrt+Win10,打造家庭网络中心小编注:此篇文章来自#原创新人#活动,成功参与活动将获得额外100金币奖励。2020年新人计划正在进行,点击查看活动详情引言:之前搭建NAS时在值得买平台上收获到相当多的知识,也成功避开了许多坑,可谓是受益匪浅,所以想写一篇更好的稳定来回报给大家。由于NAS的文章已经十分丰富,我也未曾在前人的基础上ApTcMk| 94 评论168 收藏823查看详情


Gen8 NAS中的颜值担当Gen8 NAS中的颜值担当

使用体验

不知不觉整套基于ESXi的All in one方案已经使用了一年,优点不胜枚举,把家庭网络的智能化程度直接提升了一个档次,包括但不限于一切实体机能够实现的功能,一机三用还能省电费,美滋滋,让我们先来回顾下拓扑图。

群晖+软路由+win10,Gen8 ESXi方案使用体验+直通踩坑记

但说实话起初搭建完成后并非十分理想,一是肉眼可见的网络延迟,解析速度明显低于之前硬路由,二是无法跑满家里500M的带宽,并且实体PC到虚拟机之间传输一段时间后会从100m/s锐减到40m/s,远低于理论水准。

因此后续花费了很多时间改造。硬件上把i350-t4寨卡换成了富士通OEM,不得不吐槽下富士通OEM的质量,做工及稳定性被寨卡吊打,换上后软路由经常断流死机。最终只能咬牙换成英特尔原装,一次性解决了传输速度的bug。关于原装和寨卡的区分,主要看芯片上的DELTA,原装的英特尔芯片上DELTA会有明显凹陷,而寨卡的DELTA是印刷上去的,

此为寨卡此为寨卡

把臃肿的koolshare的OpenWrt固件换成了某大神编译的lean精简版。

群晖+软路由+win10,Gen8 ESXi方案使用体验+直通踩坑记

还创建了一台基于centOS7的ADGuard虚拟机,负责DNS服务器解析域名,兼顾和ADbaby互补去广告,解析速度得到很大提升。

AD Guard 仪表盘AD Guard 仪表盘

之后遍开启了堪称阶段性完美的使用体验,直到某天挂了一块nas盘……

黑裙虚拟机RDM直通下很坑爹的一点就是掉盘后ESXi仍然能读盘,因此能正常启动群晖,但群晖bios自检硬件不一致是无法进系统的,只能把盘一块一块拔下来排查,最终成功锁定了某块使用了仅一年的6t希捷狼盘。话说狼盘通电一年就毫无征兆下挂了实在在我意料之外,你让旁边那块用了5年还坚挺的酷鱼情何以堪……

挂掉的酷狼挂掉的酷狼

最后无奈将坏盘接入电脑,win下无法直接读取Linux编码的文件,只能通过工具将数据导出,最终5t数据成功拯救了3.5t,剩下1.5t小姐姐惨烈丢失,好在损坏文件的文件名列表依旧可以导出,回头重新挂pt即可。

UFS 能在windows下读取NAS数据UFS 能在windows下读取NAS数据


SATA直通

由于之前硬盘是RDM直通所以无法smart测试,盘一言不合就挂,导致小姐姐们流离失所。因此在京东换新的硬盘拿到后,我痛定思痛,决定改为SATA控制器直通,于是开启了直通踩坑之旅。下面先总结一下坑点。

坑一

在直通前请确保CPU、主板、ESXi版本都支持VT-d,缺一不可,并在主板BIOS开启该功能。

BIOS开启VT-dBIOS开启VT-d

坑二

在直通前请确保板载SATA端口有连接硬盘。如果没有连接,ESXi可能会彻底忽略掉这个设备(也就是在web client下的主机-管理-硬件-pci设备看不到)。因为要直通,所以ESXi系统盘不能装在板载SATA控制器上。所性我系统装在nvme协议的m2固态里,没有没有踩进这个坑里。

坑三

ESXi 6.7.0在任何情况下没有办法直通板载SATA设备的可能性,显示为灰色。原因不明,有可能是VMware官方限制导致。
尽管ESXi6.7不支持SATA直通,但ESXi 6.7.0 Update 1、Update 2、Update 3是支持的。从官网下载了6.7升级update2的升级包,按照网上教程用ssh升级以后系统版本竟然变成了update1,原因不明。算了,反正又不是不能用……

ESXi 6.7.0 Update 1ESXi 6.7.0 Update 1

随后用ssh输入lspci -v | grep "Class 0106" -B 1获取SATA控制器的ID,再vi /etc/vmware/passthru.map
在文件末尾增加

#Intel Corporation Lynx Point AHCI Controller

8086 xxxx d3d0 false (xxxx替换为第一步查询到的代码)

重启ESXi之后,在界面死活找不到原本SATA控制器,但多了个AHCI controller,根据我有限的硬件知识,连猜带蒙这玩意应该就是SATA控制器,果断切换直通,随后在群晖虚拟机下添加PCIE设备,内存设置为永久内存,开机,成功!

AHCI controllerAHCI controller

启动后务必选择第三个引导,否则会出现不认盘的现象。可万万没想到我选了第三个引导依然不认第一个SATA口,虚拟机载入进PE却能成功读到四块盘。

初步判断应该是SATA1在群晖的逻辑里被当作引的虚拟导盘隐藏了,随后根据张大妈上的《蜗牛星际之黑群晖硬盘休眠和理顺盘序》这篇文章做出修改,隐藏引导盘的同时顺便调整了盘序,完美!

蜗牛星际之黑群晖硬盘休眠和理顺盘序本文主要说明黑裙启动盘的一些参数设置,和作用折腾理由乘着矿难的东风,作者也入了一台蜗牛星际矿难机,B款单网卡,没有软路由需求足够用了。熟门熟路地装好黑裙之后(安装到内置16GSSD,安装本文不涉及),发现2个问题:硬盘不能休眠,有人说装在SSD里面就是不能休眠硬盘盘符是乱的,SSD显示为硬盘2,4个虾哥哥777| 59 评论132 收藏531查看详情



盘序调整后盘序调整后

smart可以正常使用,而且SATA硬盘不再需要以RDM的形式直通给群晖,换硬盘方便很多。虚拟机也可以做正常做快照了,再也不怕引导挂掉。


网卡直通

既然SATA控制器直通了,就顺手把网卡和显卡也做了个直通。网卡直通给OpenWrt软路由还算顺利,直接切换直通后重启就完事了。敲重点,务必记得留下ESXi的管理网口,不然后果可能会很严重。

至少预留一个网卡至少预留一个网卡

随后添加PCIE设备进虚拟机,进OpenWrt管理页面,直通后物理网口和虚拟网口的顺序大概率会打乱,通过网线插拔确定每个物理网口实际对应的虚拟网口,根据实际情况配置好wan和lan即可。

网口配置网口配置

除去我直通的3个网口,还剩下一个网卡上预留的ESXi管理口和板载网口。将它们并入同一个虚拟交换机,再配置链路聚合到端口组,可以让虚拟机之间的传输轻松突破千兆。

链路聚合拓扑图链路聚合拓扑图

l链路聚合后的传输速度l链路聚合后的传输速度


核显直通

直通显卡折腾了我很久,不是操作困难,而是谁能想到核显是8th Gen Core Processor Gaussian Mixture Model这玩意?之前一直以为是核显在ESXi认不出,浪费了我几天时间。

坑爹的核显命名坑爹的核显命名

我实在没有用群晖服务器端解码的需求,基本都是本地硬件解码,就干脆把显卡直通给了虚拟win10。ESXi的虚拟化显卡直通并不支持实体视频端口直接对外输出虚拟机的屏幕,但可以在远程连接播放视频时进行硬解。

RDP远程硬解30G原盘RDP远程硬解30G原盘

直通成功,安装驱动,意外发现手机端用RDP远程连接支持D3D加速,hd630硬解30g的原盘没压力。当然正常人并不会用RDP看原盘,光掉帧就得不偿失了,但用来预览下到一半的小电影决定是否还要继续下载下去还是很有必要的。论综合体验,手机端观影还是dsfile+mxplayer或nplayer的黄金组合香!

GPU占有率40%左右GPU占有率40%左右

至此,基于ESXi的All in one方案再次达到阶段性完美,结果也符合预期,对得起这次小折腾,可以安心使用一段时间了!

展开 收起
201评论

  • 精彩
  • 最新
  • [皱眉] 没仔细看。。大哥你这就是个gen8的壳子,主板都换了,还在拿gen8做广告呢? [抽烟] 看到一半发现,这特么完全不是gen8。。。

    校验提示文案

    提交
    gen8的精髓就是机箱 [得意]

    校验提示文案

    提交
    这话说的听上去很有道理似的 [献黄瓜]

    校验提示文案

    提交
    还有1条回复
    收起所有回复
  • 手上一个GEN8也在考虑怎么玩 目前定下来2种方案 第一是 ESXI WIN2016 RDM直通给 2016后 群晖NFS 挂载硬盘 毕竟顶多用用群晖的备份其他的 WIN上都有 第二种就是 物理机2016 然后WIN自带虚拟机创建群晖

    校验提示文案

    提交
    是不是PVE直通会好一些,搞了3次ESXI,一直都是卡在各种设备直通上,最后放弃了

    校验提示文案

    提交
    两种方案我都用过,还是推荐上esxi,win下vmware性能转化率有点低。

    校验提示文案

    提交
    还有7条回复
    收起所有回复
  • 问题又来了,核显直通给群晖,群晖里面关机重启,宿主机esxi直接就卡死了 [喜极而泣]

    校验提示文案

    提交
    esxi卡死是指连不上了?重启也没用吗?这折腾大了 [喜极而泣]

    校验提示文案

    提交
    对的,esxi直接崩了,电源键强制重启可以。但是不知道这样会不会伤到硬盘 [哭泣]

    校验提示文案

    提交
    还有11条回复
    收起所有回复
  • 之前买了一个gen8,感觉特别折腾,就出了,不适合小白尤其是想all in one的。

    校验提示文案

    提交
    gen8买机箱送配件还要啥自行车,我魔改成itx了 [龇牙]

    校验提示文案

    提交
    收起所有回复
  • 有多少人玩nas是为了玩折腾 而不是为了安心下电影看电影的

    校验提示文案

    提交
    软硬件稳定是安心下电影的保障 [邪恶]

    校验提示文案

    提交
    收起所有回复
  • 大哥救命,我把核显直通给群晖后,群晖ssh 输入ls /dev/dri,提示cannot access /dev/dri: No such file or directory咋搞额

    校验提示文案

    提交
    就说明没有/dev/dri这个文件夹路径啊,你试试先cd /dev/dri 再ls

    校验提示文案

    提交
    这个问题我找到了,是因为引导没驱动的原因,换了有驱动的引导就ok啦,但硬盘直通还是有问题,按照你的方法8086 8C31 d3d0 false后 AHCI可以直通了,但直通重启后连带着m.2的SSD一起消失了0,0

    校验提示文案

    提交
    还有2条回复
    收起所有回复
  • 我看到了什么!gen8!久违的gen8!!! [喜极而泣]

    校验提示文案

    提交
    前年入的,现在貌似被炒的很贵 [喜极而泣]

    校验提示文案

    提交
    这个时间点买gen8一定是真爱!这两天重新开始折腾gen8中,不过我不会把路由放在gen8上,计划才用主路由拨号+n1旁路由“辅助”。

    校验提示文案

    提交
    还有1条回复
    收起所有回复
  • 原装芯片是看主芯片吗? 原装卡大概什么价位?

    校验提示文案

    提交
    我1750买的,某宝上有些渠道貌似1400左右就能买到,但感觉不是很正规。

    校验提示文案

    提交
    原装网卡?

    校验提示文案

    提交
    还有3条回复
    收起所有回复
  • 家用没必要做dns服务器,浪费资源,再说dns都是本地缓存多,dns服务器命中率呵呵低得忽略 [喜极而泣] [喜极而泣]

    校验提示文案

    提交
    主要是因为我在外用IPSec连到软路由以后,可以通过酸酸上外网,国内网死活解析不了,只能搭个DNS服务器曲线救国 [喜极而泣]

    校验提示文案

    提交
    我在esir重编译lean的openwrt下使用adguard。没感觉到解析有提升。。。然后去广告的效果也不理想。就放弃了。。。

    校验提示文案

    提交
    还有1条回复
    收起所有回复
  • 请问楼主,硬盘温度,平时和看视频的时候,有多少?

    校验提示文案

    提交
    27到35℃吧,不过现在是冬天 [龇牙]

    校验提示文案

    提交
    收起所有回复
  • 功耗多少哈,没有看到

    校验提示文案

    提交
    4盘待机差不多50w吧

    校验提示文案

    提交
    收起所有回复
  • 群晖的盘,在ubuntu里可以直接挂载吧?我记得折腾过一次。。。。。

    校验提示文案

    提交
    再搭个Ubuntu多蛋疼。。
    还是插电脑上用UFS导出方便 [观察]

    校验提示文案

    提交
    直接挂ubuntu下读盘,不会丢数据啊。。。。。

    校验提示文案

    提交
    收起所有回复
  • 作者家里放三四个路由器是要搞基站吗

    校验提示文案

    提交
    一两千的路由隔两堵墙体验被每个房间放个一两百的吊打 [得意]

    校验提示文案

    提交
    收起所有回复
  • 先打赏再细阅

    校验提示文案

    提交
    谢谢打赏! [赞一个]

    校验提示文案

    提交
    收起所有回复
  • 直通损害硬盘吗

    校验提示文案

    提交
    不损害,直通SATA硬盘能smart!

    校验提示文案

    提交
    收起所有回复
  • 我也想买富士通的350 但是看了你的评价,能问一下intle

    校验提示文案

    提交
    可能和运气有关,有网友上富士通就没翻车 [高兴]

    校验提示文案

    提交
    我也买了富士通的350 t4 还是四口两张 [黑线] [黑线] [黑线]

    校验提示文案

    提交
    收起所有回复
  • gen8 机箱魔改e3 1265Lv3 加超微主板 舒坦得很

    校验提示文案

    提交
    关键是电源换成dc供电,从此告别噪音 [高兴]

    校验提示文案

    提交
    超微什么板子,给个消息呗

    校验提示文案

    提交
    还有3条回复
    收起所有回复
  • 我也想搞一个家用服务器,我除了nas我还想虚拟化办公(例如win10),gen8,可以支持么?谢谢

    校验提示文案

    提交
    可以,远程桌面没压力 [得意]

    校验提示文案

    提交
    收起所有回复
  • 虚拟机选vmnet3网卡类型就是万兆网卡,虚拟机间数据传输可达1G/秒,不用聚合这么麻烦

    校验提示文案

    提交
    我网卡改vmxnet3之后内网就找不到虚拟机了,不知道什么问题

    校验提示文案

    提交
    收起所有回复
  • m. 2这个奢侈啊,目前插了3块盘,第一块装exsi6.5,虚拟一个win,一个黑群,两块仓库盘直通。

    校验提示文案

    提交
    可以考虑esxi系统放u盘,硬盘直通给win,再nfs挂载给群晖,省一个盘位。

    校验提示文案

    提交
    U盘装系统性能不会大打折扣吗 [喜极而泣]

    校验提示文案

    提交
    还有2条回复
    收起所有回复
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
1.3K
扫一下,分享更方便,购买更轻松