张大妈

击败GPT、Gemini,复旦×创智孵化创业团队「模思智能」,语音模型上新了

源自公众号:机器之心

01-21 20:46

复旦邱锡鹏团队发布的MOSS-Transcribe-Diarize语音模型,在多人说话场景的语音转录上取得突破性进展。该模型不仅性能超越GPT-4o、Gemini等国际顶尖模型,更解决了语音识别领域长期存在的多人对话转录难题,为复杂场景下的语音处理提供了全新解决方案。

击败GPT、Gemini,复旦×创智孵化创业团队「模思智能」,语音模型上新了智能速览

  • MOSS-Transcribe-Diarize性能超越GPT-4o、Gemini等模型

  • 支持多人说话场景的语音转录,实现听声辩人

  • 支持128K长上下文,可处理90分钟音频

  • 在多个语音基准测试中取得SOTA成绩

  • 采用统一端到端多模态架构设计

  • 目前API接口限时免费开放

击败GPT、Gemini,复旦×创智孵化创业团队「模思智能」,语音模型上新了精华内容

语音大模型赛道一直被GPT-4o、Gemini等国际巨头垄断,复旦模思智能的这款新模型如何在技术上实现超越?它又将为语音识别领域带来怎样的变革?

性能超越

MOSS-Transcribe-Diarize在多项关键指标上实现了对GPT-4o、Gemini等模型的超越。在AISHELL-4、Podcast、Movies等多个语音基准测试中,该模型均取得业界最优(SOTA)表现。

特别是在影视剧这种最复杂的语音场景下,面对背景音嘈杂、多人同时说话、频繁插话等挑战,MOSS-Transcribe-Diarize依然保持稳定输出。其字错误率(CER)与最优排列字错误率(cpCER)均为业内最低,说话人分离性能(Δcp指标)也达到最佳水平。

技术突破

MOSS-Transcribe-Diarize采用统一的音频-文本多模态架构,将多说话人的声学表示投影到预训练文本LLM的特征空间中。这种设计使得模型在单一框架内能够联合建模词汇内容、说话人归属和时间戳预测。

模型在一个推理过程中直接输出带有[S01]、[S02]标签和精确时间戳的文本,利用语义信息辅助说话人识别,大幅提高准确率。训练数据采用’虚实结合’策略,结合真实世界对话音频和合成数据,增强了对重叠语音等复杂场景的鲁棒性。

长音频处理

该模型支持128K长上下文窗口,可一次性处理长达90分钟的音频。这一能力在业内具有显著优势。

相比之下,GPT-4o受限于音频输入长度,无法完成AISHELL-4等长音频的完整转录;Gemini 3 Pro则无法生成符合既定格式的有效输出。MOSS-Transcribe-Diarize能够稳定输出完整的带有说话人及时间戳的语音转录结果,解决了长音频处理这一行业痛点。

实战验证

在实际测试中,MOSS-Transcribe-Diarize对经典’华强买瓜’场景的转录效果令人惊艳。AI模型能够清晰识别不同说话人,准确记录每个人所说的内容。

不论是嘈杂的环境音、人物的方言俚语,还是因情感波动产生的喊叫、哭泣,都不会影响模型的判断。这种在复杂真实场景下的稳定表现,验证了技术的实用性和可靠性。

产业价值

MOSS-Transcribe-Diarize攻克了复杂日常多人对话场景的语音识别,对多模态AI的实际落地具有重要意义。该技术可广泛应用于会议记录、访谈转录、影视字幕制作等场景。

模思智能作为专注情境智能的多模态大模型公司,已开源了MOSS-TTS对话语音合成模型、MOSS-Speech端到端语音大模型等一系列前沿技术成果。这些技术共同构建了完整的语音交互生态系统。

模思智能的MOSS-Transcribe-Diarize不仅实现了技术突破,更展现了中国AI团队在语音大模型领域的创新能力。随着API接口的开放,这项技术将如何改变现有的语音交互体验?在多模态智能的产业化进程中,它又会扮演怎样的角色?

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章