近期开源社区涌现出多个性能卓越的语音模型,它们在实时对话、语音克隆、长音频转录等方面取得了显著突破。这些技术不仅推动了语音交互的边界,也为开发者提供了更强大的工具和更广阔的应用空间。深入了解这些模型,有助于把握下一代AI语音技术的发展方向。
智能速览
LFM2-Audio-1.5B是专为低延迟实时语音对话设计的端到端模型。
VoxCPM通过无分词器技术,实现了逼真的零样本语音克隆。
VibeVoice-ASR支持单遍处理60分钟长音频,并提供说话人区分与结构化输出。
FlashLabs-Chroma是全球首个开源的端到端语音到语音模型,采用统一架构降低延迟。
精华内容
这四个开源模型各具特色,从实时交互到语音克隆,再到长音频处理,它们的技术路径和应用场景各有侧重,共同构成了当前AI语音技术的前沿版图。
低延迟实时对话
Liquid Audio推出的LFM2-Audio-1.5B是一款专为低延迟设计的端到端音频基础模型。其核心优势在于轻量级LFM2主干网络,支持实时语音对语音交互。
该模型提供两种生成模式:交错模式通过固定模式输出文本和音频标记,最大化减少首音频延迟,适合资源受限设备;顺序模式则允许模型自行决定模态切换,更适用于ASR或TTS等非对话任务。
最新发布的LFM2.5-Audio-1.5B基于更强的LFM2.5-1.2B基座,配备了极速detokenizer,并提升了ASR性能和TTS语音质量。
逼真语音克隆
VoxCPM登顶过GitHub趋势榜,它是一个新颖的无分词器TTS系统,通过在连续空间中对语音建模,实现了两大突破。
首先是上下文感知的表现力语音生成,模型能理解文本并生成恰当的韵律,得益于其在180万小时双语语料库上的训练。其次是栩栩如生的零样本语音克隆,仅需一段简短音频,即可捕捉音色、口音、情感和节奏等细粒度特征。
在性能上,VoxCPM支持流式合成,在NVIDIA RTX 4090 GPU上的实时率(RTF)低至0.17,完全满足实时应用需求。
长音频精准转录
Microsoft推出的VibeVoice-ASR是一款专为长时音频转录设计的统一模型,其最大特点是支持单遍处理长达60分钟的连续音频。
该模型集成了语音识别、说话人区分和时间戳标记功能,能直接生成包含“说话人、时间区间、转录内容”的结构化输出。此外,它还支持自定义热词,以提升特定领域术语的识别精度。
这个9B参数的模型在英语和中文的DER(说话人区分错误率)和cpWER(拼接排列词错误率)等多项指标上表现优异,特别适用于会议、访谈等场景的精准分析。
端到端语音交互
FlashLabs开源的Chroma 1.0定位为全球首个开源的端到端语音到语音模型,在HuggingFace多模态榜单中排名第一。
其核心目标是取代传统的“ASR → LLM → TTS”多阶段流水线,构建一个将语音理解、语义建模与语音生成统一的系统,从而降低复杂度并提升实时响应。
Chroma采用分层架构:Reasoner模块负责多模态理解;Backbone模块基于约1B参数的LLaMA变体,生成粗声学码并支持个性化克隆;Decoder则细化韵律与发音细节。这种设计显著减少了长上下文计算负担。
这四大开源模型的出现,标志着语音技术在实时性、真实感和处理效率上迈上了新台阶。它们为开发者提供了强大而灵活的工具,有望催生出更多创新的语音应用。未来,随着这些技术的不断成熟和社区贡献的增加,人机语音交互的体验将变得更加自然和智能。你最期待哪个模型的应用落地?