Mac 版 Ollama 学会“说话”:35% 提速是比谁,哪些人暂时用不上

源自253位全网作者

09:12

Ollama 把语音合成装进了 Mac 应用。10 月 24 日,这个以在本地跑大模型闻名的开源平台宣布,其 Mac 应用正式支持文本转语音(TTS)生成,Windows 和 Linux 版本将随后跟进。这也是 Ollama 第一次把“说话”做进正式产品:TTS 能力首发接入法国公司 Gradium 开源的 Phonon 模型系列。IT之家知乎

标题里的“提速 35%”要先弄对方向:它不是 Ollama 新旧版本之间的加速——此前它并没有语音功能——而是 Ollama 的实现比模型作者 Gradium 自家的运行方案更快。官方测试的口径是:在 MacBook Pro(M5 Max)上生成 45 秒语音、取 10 次运行的中位数,走苹果 MLX 框架的版本达到 113 倍实时,比 Gradium 自家 CPU 运行时的 84 倍快约 35%,词错率与 Hugging Face 参考实现持平。音频还支持流式输出,不必等整段合成完,边生成边播放。小红书知乎

实际用法基本是现成接口的平移:可以跟聊天模型串联,先让它生成回复,再 pipe 给 phonon,播放随即开始。官方同时开放了兼容 OpenAI 的 API,原本调用云端语音接口的聊天机器人和语音 Agent,可以直接换成这条本地输出。小红书知乎

不过,离“人人都能听到”还有三条边界。第一是语言:Phonon 目前只支持英、法、德、西、葡五种语言,没有中文,113 倍和 35% 也均为 Ollama 单机自报数据,尚无第三方复现。第二是授权:默认 31M 英语模型采用 Apache 2.0、可商用,40M 系列为 CC BY-NC 4.0、限制商业用途。第三是适用范围:当前功能仅面向 Apple Silicon 的 macOS,版本为 v0.40.11。小红书知乎小红书

把这几点合起来看,这次更新的真正变化是:本地语音第一次以“够快、可流式、可平移接入现有 API”的形态进入 Mac 工具链——对做英文语音 Agent 的团队,这是现成的本地选项;对中文用户,它更像是方向确认。接下来值得盯的两个信号:Windows / Linux 版本何时落地,以及中文语音何时进入这类本地运行时。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章