智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5
homeassistant作为强大的开源智能家居平台一直在进化,最近几年随着大语言模型chatgpt的火爆,homeassistant也开始支持接入chatgpt,但chatgpt作为云端的大模型,存在被墙和延迟高及隐私泄漏等各种不足。于是homeassistant也开始支持本地大模型了,今天我就带大家在mac mini m4上部署阿里云千问大模型qwen2.5 7b,让homeassistant更聪明更强大。比如下面这种控制效果,即使外部服务器故障或自己家宽带断网也仍然可以控制,仍然可以回答你的问题。
diy智能音箱语音控制智能家居
下面让我们开始吧
一、下载安装ollama
1、下载ollama
mac mini Safari浏览器搜索打开ollama网站,点击页面的download按钮下载ollama

然后跳转到如下页面,点击“download for macOS”进行下载

2、下载后安装
下载时右上角下载符号会显示进度,等下载完成后,点击下载图标找到ollama,点击进行安装即可



3、运行qwen2.5模型
重新回到ollama网站点击“models”打开模型列表

在搜索框内输入qwen进行搜索,然后在列表中选择qwen2.5点击进入模型页面

点击复制图标进行复制该命令

打开Mac mini 终端应用

然后在终端中输入刚才复制的命令回车运行即可(记得在前面加sudo,否则权限不足,无法运行成功)
sudo ollama run qwen2.5
按照提示输入电脑密码回车

运行成功后会出现“<<<”提示符,输入你的问题,千问大模型就会做出回答

二、homeassistat添加ollama qwen大模型
1、设置ollama局域网可访问
先按下图退出ollama应用

然后打开终端输入下面的命令回车
launchctl setenv OLLAMA_HOST "0.0.0.0"
2、homeassistant添加ollama
打开您的homeassistant按照下图点击“设置”,然后点击“设备与服务”

然后点击“添加集成”

继续在搜索框里输入ollama,在搜索结果列表里点击“ollama”

输入你mac mini的ip地址

选择qwen2.5 7b模型

然后点击提交即可完成ollama的配置
给qwen控制ha设备的权限

点击配置

选择assist,然后点击提交

3、创建qwen2.5语音助手
回到设置,选择语音助手

点击“添加助手”

填写语音助手名字,选择对话代理qwen模型,然后选择语音转文字和文字转语音服务,最后点击创建即可

把qwen设置成默认首选对话代理

返回ha默认主页点击右上角对话图标,打开对话助手

在对话框里输入你的问题或控制命令就可以控制ha里的设备了

当然了除了控制homeassistant的智能设备,它作为大语言模型也可以回答其他任何问题。比如下面这些例子
作诗、翻译、创作文案都很拿手哈,这是你自己家里的免费稳定的智能助理,是学习工作的好帮手。


三、总结
大语言模型的优势就是自然语言理解和推理,它能处理的命令和回答的问题是homeassistant原对话代理所无法比拟的。当给开源智能家居平台homeassistant装上强大的本地智能大脑qwen2.5,智能家居才会变得更智能

_寒江雪_
校验提示文案
YikLiu
校验提示文案
龙龙龙龙龙daddy
校验提示文案
JIOLP
校验提示文案
LD大胖-kwsensen
这里可能比较关键的是语音转文字,结果却没有太多说明。而这直接影响体验吧!如果是打字和大模型沟通的话,为啥用assistant 呢,各种前端,比如open-webui不是甩n条街?
校验提示文案
_寒江雪_
校验提示文案
欧阳_凤
校验提示文案
欧阳_凤
校验提示文案
_寒江雪_
校验提示文案
_寒江雪_
校验提示文案
LD大胖-kwsensen
这里可能比较关键的是语音转文字,结果却没有太多说明。而这直接影响体验吧!如果是打字和大模型沟通的话,为啥用assistant 呢,各种前端,比如open-webui不是甩n条街?
校验提示文案
JIOLP
校验提示文案
龙龙龙龙龙daddy
校验提示文案
YikLiu
校验提示文案