CosyVoice 2:功能、在线试听,以及 CosyVoice 2 与 3 对比
CosyVoice 2(cosyvoice2)是开源语音合成模型 CosyVoice 的第二代,2024 年 12 月以 CosyVoice2-0.5B 发布。它基于预训练大语言模型,把流式与非流式合成统一到一个模型里。本文介绍它能做什么、怎么运行,以及与 CosyVoice 3 的区别。
什么是 CosyVoice 2?
CosyVoice 2 是一个零样本、流式的语音合成模型。论文称它是对 CosyVoice 1 的系统性升级,目标是让语音对话等交互场景的延迟更低。
基于预训练大语言模型
它的文本-语音语言模型就是预训练的 Qwen2.5-0.5B。CosyVoice 1 中独立的文本编码器和说话人嵌入都从语言模型里去掉了。
25 Hz 的 FSQ 语音 token
语音分词器用有限标量量化(FSQ)取代向量量化,提高码本利用率;每秒产生 25 个语音 token。
流式与非流式合一
一个分块感知的因果流匹配模型同时支持两种模式。论文报告流式模式的合成质量与离线合成相比几乎无损。
指令与细粒度控制
用 1,500 小时指令数据训练:自然语言指令可控制情感、语速、角色扮演和方言,还支持 [laughter]、[breath] 以及用于强调的 <strong> 等标签。
零样本与跨语言克隆
用一段参考音频即可克隆声音。仓库里的 example.py 给出了 CosyVoice2-0.5B 的零样本、跨语言、指令和双向流式(边生成文本边输入)调用示例。
2024 年 12 月起开放权重
CosyVoice2-0.5B 于 2024 年 12 月以 Apache-2.0 许可发布。README 路线图随后加入了 vLLM 支持(2025 年 5 月),以及 TensorRT-LLM 运行时和 GRPO 训练支持(2025 年 8 月)。
CosyVoice 2 在线试听
在我们的音频演示页里,用同一组提示对比收听 CosyVoice 2 和 CosyVoice 3,也可以去官方演示页。我们的在线工具运行的是更新的、托管的 CosyVoice 3 代模型。
对比收听 CosyVoice 2 与 3 →免费试用 CosyVoice →Official CosyVoice 2 demo page
阿里云也在中国(北京)地域托管了 cosyvoice-v2 模型,价格见我们的CosyVoice API 指南。
CosyVoice 2 与 CosyVoice 3 对比
开源的 CosyVoice 2 与 CosyVoice 3 及其开源版本 Fun-CosyVoice 3.0 的对比,每一格都注明出处。
| 对比项 | CosyVoice 2 | CosyVoice 3(Fun-CosyVoice 3.0) | 来源 |
|---|---|---|---|
| 开源模型 | CosyVoice2-0.5B,2024 年 12 月 | Fun-CosyVoice3-0.5B-2512(基础版与 RL 版),2025 年 12 月 | README roadmap |
| 参数量 | 0.5B | 开源版 0.5B;论文中扩展到 1.5B,但未开源 | QwenAudio/CosyVoice READMECosyVoice 3 paper (arXiv 2505.17589) |
| 训练数据 | 约 16.7 万小时:中文 13 万、英语 3 万、日语 4,600、韩语 2,200 小时 | 100 万小时,覆盖 9 种语言和 18 种中文方言 | CosyVoice 2 paper (arXiv 2412.10117)CosyVoice 3 paper (arXiv 2505.17589) |
| 语言 | 中文、英语、日语、韩语 | 9 种语言,以及 18+ 种中文方言与口音 | CosyVoice 2 paper (arXiv 2412.10117)Hugging Face: Fun-CosyVoice3-0.5B-2512 |
| 语音分词器 | 来自语音识别模型的 FSQ token,每秒 25 个 | 用五个监督任务训练:语音识别、情感、语种识别、音频事件和说话人分析 | CosyVoice 2 paper (arXiv 2412.10117)CosyVoice 3 paper (arXiv 2505.17589) |
| 指令控制 | 情感、语速、角色扮演、方言;[laughter]、[breath]、<strong> | 语种、方言、情感、语速、音量;支持拼音和 CMU 音素纠正发音 | CosyVoice 2 paper (arXiv 2412.10117)QwenAudio/CosyVoice README |
| 后训练 | 用强化学习微调语言模型 | 用可微分奖励模型做后训练 | CosyVoice 2 paper (arXiv 2412.10117)CosyVoice 3 paper (arXiv 2505.17589) |
| 流式 | 流式与非流式合一,支持双向流式输入 | 双向流式(文本流入、音频流出),延迟最低 150 毫秒 | CosyVoice 2 paper (arXiv 2412.10117)QwenAudio/CosyVoice README |
| 错误率:test-zh CER / test-en WER / test-hard CER(越低越好) | 1.45% / 2.57% / 6.83% | 1.21% / 2.24% / 6.71%(RL 版:0.81% / 1.68% / 5.44%) | README evaluation table |
| 说话人相似度:test-zh / test-en / test-hard(越高越好) | 75.7% / 65.9% / 72.4% | 78.0% / 71.8% / 75.8%(RL 版:77.4% / 69.5% / 75.0%) | README evaluation table |
评测数字来自官方 README 中的评测表,由 CosyVoice 团队对自家模型报告。CosyVoice 3 论文把数据增长描述为“从一万小时扩展到一百万小时”;CosyVoice 2 一栏采用的是 CosyVoice 2 论文自己的训练数据表。
第三代的其他变化,以及 3.0 与云端 3.5 模型的区别,见我们的 CosyVoice 3 详解。
什么时候还值得用 CosyVoice 2
对于新项目,官方 README 推荐使用效果更好的 Fun-CosyVoice3-0.5B。不过在以下几种情况下,CosyVoice 2 仍是合理的选择:
现有流程已经基于它
为 CosyVoice2-0.5B 准备的提示、保存的说话人和微调结果可以继续使用;换模型就需要重新测试。
需要它的部署方案
README 为 CosyVoice 2 提供了 vLLM 支持和 TensorRT-LLM 运行时(称其让 CosyVoice 2 的 LLM 比 Hugging Face transformers 实现快约 4 倍),以及 GRPO 训练支持。
想直接用托管版
阿里云百炼在中国(北京)地域提供托管的 cosyvoice-v2 模型,不用自己运行 GPU 就能调用。
Alibaba Cloud Model Studio: real-time TTS regions and models
下载并运行 CosyVoice 2
安装好仓库(Python 3.10 Conda 环境)后,下载权重并运行官方示例。下面两段代码都摘自 README 和 example.py。
# modelscope SDK model download
from modelscope import snapshot_download
snapshot_download('iic/CosyVoice2-0.5B', local_dir='pretrained_models/CosyVoice2-0.5B')
# for oversea users, huggingface SDK model download
from huggingface_hub import snapshot_download
snapshot_download('FunAudioLLM/CosyVoice2-0.5B', local_dir='pretrained_models/CosyVoice2-0.5B')import sys
sys.path.append('third_party/Matcha-TTS')
from cosyvoice.cli.cosyvoice import AutoModel
import torchaudio
cosyvoice = AutoModel(model_dir='pretrained_models/CosyVoice2-0.5B')
# zero_shot usage
for i, j in enumerate(cosyvoice.inference_zero_shot('收到好友从远方寄来的生日礼物,那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐,笑容如花儿般绽放。', '希望你以后能够做的比我还好呦。', './asset/zero_shot_prompt.wav')):
torchaudio.save('zero_shot_{}.wav'.format(i), j['tts_speech'], cosyvoice.sample_rate)
# instruct usage
for i, j in enumerate(cosyvoice.inference_instruct2('收到好友从远方寄来的生日礼物,那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐,笑容如花儿般绽放。', '用四川话说这句话<|endofprompt|>', './asset/zero_shot_prompt.wav')):
torchaudio.save('instruct_{}.wav'.format(i), j['tts_speech'], cosyvoice.sample_rate)权重:Hugging Face: CosyVoice2-0.5BModelScope: CosyVoice2-0.5B
完整安装步骤(含 Windows 和 Docker 说明)见我们的CosyVoice 安装教程。
CosyVoice 2 常见问题
什么是 CosyVoice 2?
开源语音合成模型 CosyVoice 的第二代,2024 年 12 月以 CosyVoice2-0.5B 发布。它是一个流式、零样本的语音合成模型,语言模型部分就是预训练的 Qwen2.5-0.5B。
cosyvoice2 和 CosyVoice 2 是一回事吗?
是的。cosyvoice2、CosyVoice 2.0 和 CosyVoice2-0.5B 指的都是第二代;CosyVoice2-0.5B 是发布的模型文件名。
CosyVoice 2 和 3 该用哪个?
新项目选 CosyVoice 3。官方 README 的评测表中,Fun-CosyVoice3-0.5B-2512 在三个测试集上的错误率都低于 CosyVoice2-0.5B,说话人相似度也更高,README 也推荐使用它。如果你的流程或部署方案依赖 CosyVoice 2,可以继续用。
CosyVoice 2 支持哪些语言?
据 CosyVoice 2 论文,支持中文、英语、日语和韩语。论文指出日语效果不如韩语,因为日文与中文共用汉字,可能被读成中文发音。
CosyVoice 2 开源吗?
开源。代码和 CosyVoice2-0.5B 权重以 Apache-2.0 许可发布在 GitHub、Hugging Face 和 ModelScope 上。README 另有“内容仅供学术用途”的免责声明,商用前请两者都看。
可以通过 API 使用 CosyVoice 2 吗?
可以。阿里云百炼在中国(北京)地域提供托管的 cosyvoice-v2 模型,官方价格见我们的 CosyVoice API 指南。CosyVoice.org 本身不提供公开 API。
资料来源
本页事实已于 2026 年 10 月 26 日对照以下官方资料核对。
- QwenAudio/CosyVoice README
- README evaluation table
- QwenAudio/CosyVoice example.py
- Hugging Face: CosyVoice2-0.5B
- ModelScope: CosyVoice2-0.5B
- Official CosyVoice 2 demo page
- CosyVoice 2 paper (arXiv 2412.10117)
- CosyVoice 3 paper (arXiv 2505.17589)
- Hugging Face: Fun-CosyVoice3-0.5B-2512
- Alibaba Cloud Model Studio: real-time TTS regions and models