智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

2024-12-08 11:03:35 18点赞 87收藏 11评论

homeassistant作为强大的开源智能家居平台一直在进化,最近几年随着大语言模型chatgpt的火爆,homeassistant也开始支持接入chatgpt,但chatgpt作为云端的大模型,存在被墙和延迟高及隐私泄漏等各种不足。于是homeassistant也开始支持本地大模型了,今天我就带大家在mac mini m4上部署阿里云千问大模型qwen2.5 7b,让homeassistant更聪明更强大。比如下面这种控制效果,即使外部服务器故障或自己家宽带断网也仍然可以控制,仍然可以回答你的问题。

diy智能音箱语音控制智能家居

下面让我们开始吧

一、下载安装ollama

1、下载ollama

mac mini Safari浏览器搜索打开ollama网站,点击页面的download按钮下载ollama

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

然后跳转到如下页面,点击“download for macOS”进行下载

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

2、下载后安装

下载时右上角下载符号会显示进度,等下载完成后,点击下载图标找到ollama,点击进行安装即可

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

3、运行qwen2.5模型

重新回到ollama网站点击“models”打开模型列表

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

在搜索框内输入qwen进行搜索,然后在列表中选择qwen2.5点击进入模型页面

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

点击复制图标进行复制该命令

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

打开Mac mini 终端应用

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

然后在终端中输入刚才复制的命令回车运行即可(记得在前面加sudo,否则权限不足,无法运行成功)

sudo ollama run qwen2.5

按照提示输入电脑密码回车

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

运行成功后会出现“<<<”提示符,输入你的问题,千问大模型就会做出回答

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

二、homeassistat添加ollama qwen大模型

1、设置ollama局域网可访问

先按下图退出ollama应用

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

然后打开终端输入下面的命令回车

launchctl setenv OLLAMA_HOST "0.0.0.0"智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

2、homeassistant添加ollama

打开您的homeassistant按照下图点击“设置”,然后点击“设备与服务”

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

然后点击“添加集成”

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

继续在搜索框里输入ollama,在搜索结果列表里点击“ollama”

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

输入你mac mini的ip地址

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

选择qwen2.5 7b模型

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

然后点击提交即可完成ollama的配置

给qwen控制ha设备的权限

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

点击配置

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

选择assist,然后点击提交

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

3、创建qwen2.5语音助手

回到设置,选择语音助手

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

点击“添加助手”

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

填写语音助手名字,选择对话代理qwen模型,然后选择语音转文字和文字转语音服务,最后点击创建即可

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

把qwen设置成默认首选对话代理

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

返回ha默认主页点击右上角对话图标,打开对话助手

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

在对话框里输入你的问题或控制命令就可以控制ha里的设备了

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

当然了除了控制homeassistant的智能设备,它作为大语言模型也可以回答其他任何问题。比如下面这些例子

作诗、翻译、创作文案都很拿手哈,这是你自己家里的免费稳定的智能助理,是学习工作的好帮手。

智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5智能家居homeassistant安装本地大脑-mac mini部署大模型qwen2.5

三、总结

大语言模型的优势就是自然语言理解和推理,它能处理的命令和回答的问题是homeassistant原对话代理所无法比拟的。当给开源智能家居平台homeassistant装上强大的本地智能大脑qwen2.5,智能家居才会变得更智能

展开 收起
11评论

  • 精彩
  • 最新
  • 关键用什么语音入口呢

    校验提示文案

    提交
    那需要另外一篇文章写了,后面会详细写。

    校验提示文案

    提交
    收起所有回复
  • 可惜了,nas跑不动 [喜极而泣] [喜极而泣]

    校验提示文案

    提交
    我现在就放弃nas了。换到以前的笔记本上面了 [高兴]

    校验提示文案

    提交
    收起所有回复
  • 阿叻个斯儿?你为什么要起这么奇怪的名字

    校验提示文案

    提交
  • pve剩余内存不多了

    校验提示文案

    提交
    加哈哈哈

    校验提示文案

    提交
    收起所有回复
  • 感觉没啥用!
    这里可能比较关键的是语音转文字,结果却没有太多说明。而这直接影响体验吧!如果是打字和大模型沟通的话,为啥用assistant 呢,各种前端,比如open-webui不是甩n条街?

    校验提示文案

    提交
    为什么装ha???这就是为了更好的服务ha的,其他的附带和测试用的功能

    校验提示文案

    提交
    收起所有回复
  • 想知道对硬件性能的要求是?另外,是不是能通过加装tpu更好(低功耗高效能)的运行

    校验提示文案

    提交
  • 不错。在想怎么搞呢

    校验提示文案

    提交
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
87
扫一下,分享更方便,购买更轻松