跳过主要内容
模型详解 · 2026 年 10 月核对

CosyVoice 2:功能、在线试听,以及 CosyVoice 2 与 3 对比

CosyVoice 2(cosyvoice2)是开源语音合成模型 CosyVoice 的第二代,2024 年 12 月以 CosyVoice2-0.5B 发布。它基于预训练大语言模型,把流式与非流式合成统一到一个模型里。本文介绍它能做什么、怎么运行,以及与 CosyVoice 3 的区别。

什么是 CosyVoice 2?

CosyVoice 2 是一个零样本、流式的语音合成模型。论文称它是对 CosyVoice 1 的系统性升级,目标是让语音对话等交互场景的延迟更低。

  • 基于预训练大语言模型

    它的文本-语音语言模型就是预训练的 Qwen2.5-0.5B。CosyVoice 1 中独立的文本编码器和说话人嵌入都从语言模型里去掉了。

    CosyVoice 2 paper (arXiv 2412.10117)

  • 25 Hz 的 FSQ 语音 token

    语音分词器用有限标量量化(FSQ)取代向量量化,提高码本利用率;每秒产生 25 个语音 token。

    CosyVoice 2 paper (arXiv 2412.10117)

  • 流式与非流式合一

    一个分块感知的因果流匹配模型同时支持两种模式。论文报告流式模式的合成质量与离线合成相比几乎无损。

    CosyVoice 2 paper (arXiv 2412.10117)

  • 指令与细粒度控制

    用 1,500 小时指令数据训练:自然语言指令可控制情感、语速、角色扮演和方言,还支持 [laughter]、[breath] 以及用于强调的 <strong> 等标签。

    CosyVoice 2 paper (arXiv 2412.10117)

  • 零样本与跨语言克隆

    用一段参考音频即可克隆声音。仓库里的 example.py 给出了 CosyVoice2-0.5B 的零样本、跨语言、指令和双向流式(边生成文本边输入)调用示例。

    QwenAudio/CosyVoice example.py

  • 2024 年 12 月起开放权重

    CosyVoice2-0.5B 于 2024 年 12 月以 Apache-2.0 许可发布。README 路线图随后加入了 vLLM 支持(2025 年 5 月),以及 TensorRT-LLM 运行时和 GRPO 训练支持(2025 年 8 月)。

    README roadmap

CosyVoice 2 在线试听

在我们的音频演示页里,用同一组提示对比收听 CosyVoice 2 和 CosyVoice 3,也可以去官方演示页。我们的在线工具运行的是更新的、托管的 CosyVoice 3 代模型。

对比收听 CosyVoice 2 与 3 →免费试用 CosyVoice →Official CosyVoice 2 demo page

阿里云也在中国(北京)地域托管了 cosyvoice-v2 模型,价格见我们的CosyVoice API 指南。

CosyVoice 2 与 CosyVoice 3 对比

开源的 CosyVoice 2 与 CosyVoice 3 及其开源版本 Fun-CosyVoice 3.0 的对比,每一格都注明出处。

CosyVoice 2 与 CosyVoice 3 对比
对比项CosyVoice 2CosyVoice 3(Fun-CosyVoice 3.0)来源
开源模型CosyVoice2-0.5B,2024 年 12 月Fun-CosyVoice3-0.5B-2512(基础版与 RL 版),2025 年 12 月README roadmap
参数量0.5B开源版 0.5B;论文中扩展到 1.5B,但未开源QwenAudio/CosyVoice READMECosyVoice 3 paper (arXiv 2505.17589)
训练数据约 16.7 万小时:中文 13 万、英语 3 万、日语 4,600、韩语 2,200 小时100 万小时,覆盖 9 种语言和 18 种中文方言CosyVoice 2 paper (arXiv 2412.10117)CosyVoice 3 paper (arXiv 2505.17589)
语言中文、英语、日语、韩语9 种语言,以及 18+ 种中文方言与口音CosyVoice 2 paper (arXiv 2412.10117)Hugging Face: Fun-CosyVoice3-0.5B-2512
语音分词器来自语音识别模型的 FSQ token,每秒 25 个用五个监督任务训练:语音识别、情感、语种识别、音频事件和说话人分析CosyVoice 2 paper (arXiv 2412.10117)CosyVoice 3 paper (arXiv 2505.17589)
指令控制情感、语速、角色扮演、方言;[laughter]、[breath]、<strong>语种、方言、情感、语速、音量;支持拼音和 CMU 音素纠正发音CosyVoice 2 paper (arXiv 2412.10117)QwenAudio/CosyVoice README
后训练用强化学习微调语言模型用可微分奖励模型做后训练CosyVoice 2 paper (arXiv 2412.10117)CosyVoice 3 paper (arXiv 2505.17589)
流式流式与非流式合一,支持双向流式输入双向流式(文本流入、音频流出),延迟最低 150 毫秒CosyVoice 2 paper (arXiv 2412.10117)QwenAudio/CosyVoice README
错误率:test-zh CER / test-en WER / test-hard CER(越低越好)1.45% / 2.57% / 6.83%1.21% / 2.24% / 6.71%(RL 版:0.81% / 1.68% / 5.44%)README evaluation table
说话人相似度:test-zh / test-en / test-hard(越高越好)75.7% / 65.9% / 72.4%78.0% / 71.8% / 75.8%(RL 版:77.4% / 69.5% / 75.0%)README evaluation table

评测数字来自官方 README 中的评测表,由 CosyVoice 团队对自家模型报告。CosyVoice 3 论文把数据增长描述为“从一万小时扩展到一百万小时”;CosyVoice 2 一栏采用的是 CosyVoice 2 论文自己的训练数据表。

第三代的其他变化,以及 3.0 与云端 3.5 模型的区别,见我们的 CosyVoice 3 详解。

什么时候还值得用 CosyVoice 2

对于新项目,官方 README 推荐使用效果更好的 Fun-CosyVoice3-0.5B。不过在以下几种情况下,CosyVoice 2 仍是合理的选择:

  • 现有流程已经基于它

    为 CosyVoice2-0.5B 准备的提示、保存的说话人和微调结果可以继续使用;换模型就需要重新测试。

    QwenAudio/CosyVoice README

  • 需要它的部署方案

    README 为 CosyVoice 2 提供了 vLLM 支持和 TensorRT-LLM 运行时(称其让 CosyVoice 2 的 LLM 比 Hugging Face transformers 实现快约 4 倍),以及 GRPO 训练支持。

    QwenAudio/CosyVoice README

  • 想直接用托管版

    阿里云百炼在中国(北京)地域提供托管的 cosyvoice-v2 模型,不用自己运行 GPU 就能调用。

    Alibaba Cloud Model Studio: real-time TTS regions and models

下载并运行 CosyVoice 2

安装好仓库(Python 3.10 Conda 环境)后,下载权重并运行官方示例。下面两段代码都摘自 README 和 example.py。

下载 CosyVoice2-0.5B(README)
# modelscope SDK model download
from modelscope import snapshot_download
snapshot_download('iic/CosyVoice2-0.5B', local_dir='pretrained_models/CosyVoice2-0.5B')

# for oversea users, huggingface SDK model download
from huggingface_hub import snapshot_download
snapshot_download('FunAudioLLM/CosyVoice2-0.5B', local_dir='pretrained_models/CosyVoice2-0.5B')
零样本与方言指令(example.py)
import sys
sys.path.append('third_party/Matcha-TTS')
from cosyvoice.cli.cosyvoice import AutoModel
import torchaudio

cosyvoice = AutoModel(model_dir='pretrained_models/CosyVoice2-0.5B')

# zero_shot usage
for i, j in enumerate(cosyvoice.inference_zero_shot('收到好友从远方寄来的生日礼物,那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐,笑容如花儿般绽放。', '希望你以后能够做的比我还好呦。', './asset/zero_shot_prompt.wav')):
    torchaudio.save('zero_shot_{}.wav'.format(i), j['tts_speech'], cosyvoice.sample_rate)

# instruct usage
for i, j in enumerate(cosyvoice.inference_instruct2('收到好友从远方寄来的生日礼物,那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐,笑容如花儿般绽放。', '用四川话说这句话<|endofprompt|>', './asset/zero_shot_prompt.wav')):
    torchaudio.save('instruct_{}.wav'.format(i), j['tts_speech'], cosyvoice.sample_rate)

权重:Hugging Face: CosyVoice2-0.5BModelScope: CosyVoice2-0.5B

完整安装步骤(含 Windows 和 Docker 说明)见我们的CosyVoice 安装教程。

CosyVoice 2 常见问题

什么是 CosyVoice 2?

开源语音合成模型 CosyVoice 的第二代,2024 年 12 月以 CosyVoice2-0.5B 发布。它是一个流式、零样本的语音合成模型,语言模型部分就是预训练的 Qwen2.5-0.5B。

cosyvoice2 和 CosyVoice 2 是一回事吗?

是的。cosyvoice2、CosyVoice 2.0 和 CosyVoice2-0.5B 指的都是第二代;CosyVoice2-0.5B 是发布的模型文件名。

CosyVoice 2 和 3 该用哪个?

新项目选 CosyVoice 3。官方 README 的评测表中,Fun-CosyVoice3-0.5B-2512 在三个测试集上的错误率都低于 CosyVoice2-0.5B,说话人相似度也更高,README 也推荐使用它。如果你的流程或部署方案依赖 CosyVoice 2,可以继续用。

CosyVoice 2 支持哪些语言?

据 CosyVoice 2 论文,支持中文、英语、日语和韩语。论文指出日语效果不如韩语,因为日文与中文共用汉字,可能被读成中文发音。

CosyVoice 2 开源吗?

开源。代码和 CosyVoice2-0.5B 权重以 Apache-2.0 许可发布在 GitHub、Hugging Face 和 ModelScope 上。README 另有“内容仅供学术用途”的免责声明,商用前请两者都看。

可以通过 API 使用 CosyVoice 2 吗?

可以。阿里云百炼在中国(北京)地域提供托管的 cosyvoice-v2 模型,官方价格见我们的 CosyVoice API 指南。CosyVoice.org 本身不提供公开 API。