复旦邱锡鹏团队发布的MOSS-Transcribe-Diarize语音模型,在多人说话场景的语音转录上取得突破性进展。该模型不仅性能超越GPT-4o、Gemini等国际顶尖模型,更解决了语音识别领域长期存在的多人对话转录难题,为复杂场景下的语音处理提供了全新解决方案。
智能速览
MOSS-Transcribe-Diarize性能超越GPT-4o、Gemini等模型
支持多人说话场景的语音转录,实现听声辩人
支持128K长上下文,可处理90分钟音频
在多个语音基准测试中取得SOTA成绩
采用统一端到端多模态架构设计
目前API接口限时免费开放
精华内容
语音大模型赛道一直被GPT-4o、Gemini等国际巨头垄断,复旦模思智能的这款新模型如何在技术上实现超越?它又将为语音识别领域带来怎样的变革?
性能超越
MOSS-Transcribe-Diarize在多项关键指标上实现了对GPT-4o、Gemini等模型的超越。在AISHELL-4、Podcast、Movies等多个语音基准测试中,该模型均取得业界最优(SOTA)表现。
特别是在影视剧这种最复杂的语音场景下,面对背景音嘈杂、多人同时说话、频繁插话等挑战,MOSS-Transcribe-Diarize依然保持稳定输出。其字错误率(CER)与最优排列字错误率(cpCER)均为业内最低,说话人分离性能(Δcp指标)也达到最佳水平。
技术突破
MOSS-Transcribe-Diarize采用统一的音频-文本多模态架构,将多说话人的声学表示投影到预训练文本LLM的特征空间中。这种设计使得模型在单一框架内能够联合建模词汇内容、说话人归属和时间戳预测。
模型在一个推理过程中直接输出带有[S01]、[S02]标签和精确时间戳的文本,利用语义信息辅助说话人识别,大幅提高准确率。训练数据采用’虚实结合’策略,结合真实世界对话音频和合成数据,增强了对重叠语音等复杂场景的鲁棒性。
长音频处理
该模型支持128K长上下文窗口,可一次性处理长达90分钟的音频。这一能力在业内具有显著优势。
相比之下,GPT-4o受限于音频输入长度,无法完成AISHELL-4等长音频的完整转录;Gemini 3 Pro则无法生成符合既定格式的有效输出。MOSS-Transcribe-Diarize能够稳定输出完整的带有说话人及时间戳的语音转录结果,解决了长音频处理这一行业痛点。
实战验证
在实际测试中,MOSS-Transcribe-Diarize对经典’华强买瓜’场景的转录效果令人惊艳。AI模型能够清晰识别不同说话人,准确记录每个人所说的内容。
不论是嘈杂的环境音、人物的方言俚语,还是因情感波动产生的喊叫、哭泣,都不会影响模型的判断。这种在复杂真实场景下的稳定表现,验证了技术的实用性和可靠性。
产业价值
MOSS-Transcribe-Diarize攻克了复杂日常多人对话场景的语音识别,对多模态AI的实际落地具有重要意义。该技术可广泛应用于会议记录、访谈转录、影视字幕制作等场景。
模思智能作为专注情境智能的多模态大模型公司,已开源了MOSS-TTS对话语音合成模型、MOSS-Speech端到端语音大模型等一系列前沿技术成果。这些技术共同构建了完整的语音交互生态系统。
模思智能的MOSS-Transcribe-Diarize不仅实现了技术突破,更展现了中国AI团队在语音大模型领域的创新能力。随着API接口的开放,这项技术将如何改变现有的语音交互体验?在多模态智能的产业化进程中,它又会扮演怎样的角色?