2026 本地语音识别模型横评：Qwen3-ASR、SenseVoice、Parakeet、Nemotron、Cohere、Whisper 怎么选？

如果你只想要一句话结论：中文或中英混说选 Qwen3-ASR 1.7B；纯英文离线高精度优先 Qwen3-ASR 1.7B（最新快照已反超 Cohere），Cohere Transcribe 只在纯英文批处理且不需要时间戳时作备选；英文实时听写选 Parakeet Unified EN；多语种实时字幕或 CPU 部署选 Nemotron 3.5；低配电脑纯中文选 SenseVoice Small；需要 99 种语言和时间戳再考虑 Whisper large-v3-turbo。

这不是一句“没有最好，只有最合适”的客套话。下面每个推荐都对应具体的公开数据、明确的适用条件和已知短板。

快速选型表

为什么这篇横评和常见榜单不一样

语音识别模型的对比，最容易犯三个错误。

第一，把英文榜当成通用能力榜。 Hugging Face 的 Open ASR Leaderboard 主要用英文短音频数据集，英文均值第一，不等于中文第一，也不等于中英混说第一。

第二，把不同测试集的 WER 直接横比。 中文没有空格分词，通常看字错率 CER；英文看词错率 WER。AISHELL、WenetSpeech、FLEURS、LibriSpeech 的难度和口音分布都不同，跨数据集比数字，只能看量级，不能看小数点后两位。

第三，把厂商延迟当成你的延迟。 “160 ms”“100 ms”通常是最佳硬件、特定分块、甚至只算首字延迟的结果；你机器上的端到端延迟还取决于量化档位、推理框架、CPU/GPU 和是否加载模型。

本文的数据截至 2026 年 10 月 19 日，来源分三档：

• A 档：官方模型卡、原论文、官方发布说明、Open ASR Leaderboard 原始记录。
• B 档：有完整测试条件的第三方独立评测。
• C 档：社区实测与媒体报道，只用于发现问题和佐证趋势。

本文没有做新的实验室实测。所有数字都来自公开来源，文末附有可核对的链接和单独的来源台账。这样做的好处是你可以自己复算；坏处是不同来源的测试条件并不完全一致，所以本文不发布“总分排名”，只做分场景判断。

六款模型一页速览

* SenseVoice 的 Q5 体积来自第三方转换（FP16 转换版约 0.45 GB）；其余 Q5 体积来自 Voconly 自有的 voconly-org GGUF 转换仓库，不是中立第三方测量。文件大小不等于峰值内存，实际占用取决于推理框架和并发。

英文准确率：Open ASR Leaderboard 怎么读

在英文短音频上，Open ASR Leaderboard 是当前最可比的公开基准。以下是各模型官方提交或模型卡记录的数字：

这张表必须带日期读。 2026-03-26 Cohere 发布时以 5.42 登顶；但到 2026-09-25，第三方汇总的 Open ASR 快照显示 Cohere 已降至约 5.40、约第 20 名（69 个英文模型中），Qwen3-ASR-1.7B 约 4.95，成为该快照中的最佳开源模型。Hugging Face 结果数据集的 2026 年下半年快照也显示 Qwen3（5.75）领先 Cohere（6.26）。这些绝对值因测试集和文本归一化变化而不同，不能跨快照比较，但方向一致：“Cohere 英文第一”只在发布当天的快照成立，不能作为 2026-10 的选型依据。

这张表还说明一件事：差距的量级比小数点更重要。 Cohere、Qwen3、Parakeet 的历史记录都在 5–6% 区间，Whisper turbo 在 7–8% 区间；而快照之间可以相差 1–2 个百分点。对于英文听写，选择时更应该看延迟、语言覆盖和硬件，而不是执着于某个快照里的 0.1 个百分点。

但英文均值也有盲区。第三方评测机构 InferenceBench 对 Cohere Transcribe 的测试显示：LibriSpeech clean 上 WER 只有 1.46%，但 AMI 会议音频上高达 17.7%–29.2%。这说明“干净朗读音频”和“真实会议、口音、噪声”之间可能存在数量级差异。榜单分数是起点，不是终点。

中文准确率：没有统一榜单，但结论很清晰

中文目前没有像 Open ASR Leaderboard 这样被广泛引用的统一榜单，下面是各来源公开的中文 CER。不同行使用不同测试集，不能直接排名，只能看量级和趋势。

结论有三条。

第一，中文首选 Qwen3-ASR 1.7B。 它在 AISHELL-2、WenetSpeech、SpeechIO、FLEURS-zh 上都落在 2.4–5.9% 区间，是六款中唯一给出多套中文基准完整数字的模型。流式模式下 FLEURS-zh 为 2.84%，与离线 2.41% 的差距不大。

第二，SenseVoice Small 仍是低配中文的优选。 官方只以图表发布结果，第三方转换的口径差异较大（AISHELL-1 约 3.4–5.8%），但趋势一致：中文明显强于 Whisper，模型体积却只有 234M。它不适合长音频和实时流式，但非常适合低配电脑上的短句听写。

第三，Nemotron 3.5 不是中文听写模型。 它的普通话 FLEURS CER 在 19–21%，官方明确把普通话放在“broad-coverage”而不是“transcription-ready”层级。把它当作中文实时首选，是误读。它的价值在多语种实时和纯 CPU 部署，不在中文精度。

Cohere Transcribe 的英文均值很亮眼，但公开材料中没有给出普通话 CER，并明确说明模型面向“单一、预设语言”，在 code-switched 音频上表现不稳定。中文用户不应因为它在英文榜排第一就选它。

中英混合与多语言：别把“支持语言数”当成“混说能力”

“支持 14 种语言”和“能处理中英混说”是两件事。

• Qwen3-ASR 覆盖 30 种语言和 22 种中文方言，是这批模型里最适合中英混说的。它的训练目标和语言覆盖都更偏向多语种场景，中文方言也是明确列出的能力。
• SenseVoice Small 支持中、粤、英、日、韩，中文强，但英文术语和长段英文不如 Qwen3；它是“五语种”而不是“混说专用”。
• Cohere Transcribe 虽然支持中文，但每次请求必须指定一种语言，没有自动语种识别；官方承认 code-switch 表现不稳定。中英混说应直接排除。
• Nemotron 3.5 有语言 ID 条件，能自动识别语种，但它的设计是“一条音频、一种主语言”，不是在一句话里无缝切换中英；普通话本身也只有 broad-coverage 水平。
• Whisper large-v3-turbo 语种覆盖最广，但没有针对 code-switch 做专门优化，中文精度也明显落后于 Qwen3。
• Parakeet Unified EN 只支持英文，混说场景直接不适用。

如果你的工作里经常出现“这个 deadline 能不能往后挪一下”“把 API 的 latency 再压一压”这类句子，Qwen3-ASR 是更稳的选择。

延迟：四个不同的指标，别混着比

讨论“快不快”之前，先分清四个指标：

1. 首字延迟（TTFT）：你说完第一个词，文字多久出现。
2. time-to-final：整句最终结果多久稳定。
3. 端到端延迟：从停止说话到文本插入光标的时间。
4. RTF / RTFx：处理音频耗时与音频时长的比值，通常在高并发、批处理下测量。

注意 Qwen3 的两个数字不是同一并发点：92 ms 是并发 1 的最低 TTFT；RTF 0.064 是并发 128 时的单请求 RTF，聚合吞吐约 2000×（每秒处理约 2000 秒音频），而该并发下平均 TTFT 会升到 3.21 s。把 0.064 当成聚合 RTF 会低估吞吐，把 92 ms 当成高并发延迟会低估等待。

对语音输入工具来说，端到端延迟才是用户能感知的指标。厂商的“160 ms”“100 ms”往往是最佳配置下的首字或稳定延迟；加上音频缓冲、推理、后处理和插入光标，实际体验会更高。采购或选型时，应该在自己的机器上测 p50/p95，而不是只看宣传页。

体积、量化与硬件：Q5 文件大小不等于内存占用

几个重要提醒：

• Q5 通常是 Voconly 的默认下载档位（具体以设置页为准），但公开榜单大多用 FP16 或 BF16。两者不能直接等同。
• 体积数据是产品自有来源。 上表的 Q5 文件大小由 Voconly 的 voconly-org 转换仓库提供，适合比较量级，但不是中立第三方测量；下载前请以仓库文件页和设置页显示为准。
• 量化损失因模型而异。第三方 transcribe.cpp 的测试显示，Parakeet Unified EN 的 Q5_K_M 在 LibriSpeech test-clean 上为 1.58% WER，与 NVIDIA 官方 FP16 的 1.63% 基本持平；SenseVoice 的 Q5 端口为 3.18%。但这只能说明这两个模型在该测试集上的情况，不能外推到 Qwen3 或 Cohere。
• 文件大小不是峰值内存。 推理框架、上下文缓存、批大小和并发都会显著影响 RAM/VRAM。Cohere 2B 和 Qwen3 1.7B 的实际占用明显高于 0.6B 模型。
• 如果你的机器只有 CPU，优先考虑 SenseVoice、Parakeet、Nemotron；Qwen3 1.7B 和 Cohere 2B 更适合有 GPU 或较强 CPU 的环境。

逐模型点评

Qwen3-ASR 1.7B：中文与中英混说的默认答案

优势：中文基准最完整，AISHELL-2 2.71、WenetSpeech 4.97/5.88、FLEURS-zh 2.41；流式 FLEURS-zh 2.84，下降很小；2026-09 最新英文快照约 4.95，已反超 Cohere；52 种语言/方言；Apache 2.0；时间戳可通过独立的 ForcedAligner 补齐。

短板：Q5 文件约 1.41 GB，比 0.6B 模型重；流式推理官方只支持 vLLM，且流式模式不支持批处理和返回时间戳；公开 README 没有把热词/上下文偏置列为基础功能，相关能力需要看 API 或技术报告的实现。

适合：中文听写、中英混说、多语种办公、需要较高中文准确率的用户。

不适合：只有低端 CPU、追求极致轻量，或必须用非 vLLM 后端做流式的场景。

SenseVoice Small：低配中文的最优解

优势：234M 参数，第三方 Q5 转换约 164 MB；中文强于 Whisper；第三方测试中 RTF 约 0.007，10 秒音频约 70 ms；支持中、粤、英、日、韩；FunASR 管线可提供时间戳。

短板：非流式，单次最长 30 秒；英文和专业术语弱于中文；官方只以图表发布基准，第三方量化/转换口径差异大（AISHELL-1 约 3.4–5.8%）；权重使用 FunASR Model License，不是 Apache/MIT。

适合：低配电脑、纯中文短句、对实时性要求不高、希望模型尽量小的用户。

不适合：长音频、实时字幕、中英混说、需要统一商用许可审查的团队。

Cohere Transcribe：英文离线精度第一梯队，但不是全能选手

优势：2B 参数，发布时 Open ASR 英文均值 5.42 并登顶；14 种语言；Apache 2.0；长音频分块和批处理设计成熟。

短板：英文第一的位置没有保持——2026-09 快照已降至约第 20，Qwen3 反超；必须手动指定语言，没有自动语种识别；不支持时间戳和说话人分离；官方承认 code-switch 不稳定；在真实会议音频上，第三方测试的 WER 可达 17.7%–29.2%；中文没有官方基准。Q5 文件约 1.65 GB，是六款中最大的。

适合：干净的纯英文音频、离线批量转写、对英文准确率要求高于实时性的用户。

不适合：中文、中英混说、实时字幕、需要时间戳或说话人分离的场景。

Parakeet Unified EN：英文实时听写的默认答案

优势：0.6B，英文专属优化；离线 Open ASR 均值 5.91；160 ms 缓冲流式；原生标点和大小写；Q5 约 0.52 GB；NVIDIA Open Model License。

短板：只支持英文；160 ms 流式时 WER 升到 8.44，精度换延迟的代价明确；不是多语种模型；时间戳能力未文档化。

适合：英文会议、英文口述、英文实时字幕、需要在低延迟下保持可接受准确率的用户。

不适合：中文、多语种、需要词级时间戳的场景。

Nemotron 3.5 ASR：多语种实时/CPU 的工程优选，不是中文听写模型

优势：0.6B；40 个语言区域（32 个开箱可用：19 个转录就绪 + 13 个广覆盖；8 个需微调）；80/160/560/1120 ms 可调分块；cache-aware 流式，官方称 time-to-final 可低于 100 ms；CPU 是官方支持的后端之一；原生标点和大小写；并发能力强。

短板：普通话 FLEURS CER 19–21%，官方列为 broad-coverage；自动语种识别略差于手动指定；不是 code-switch 专用；许可是 OpenMDW-1.1（NVIDIA Open Model Data License），部分第三方平台误标为 NVIDIA Open Model License，商用前以官方模型卡为准。

关于 CPU 的边界：NVIDIA 官方文档把 CPU 列为可选后端，LiveKit 也明确说明 CUDA 不是必需，因此“多语种 + 纯 CPU”在技术上成立。但纯 CPU 的实时性取决于分块和实现：第三方 ONNX 测试中，80 ms 分块的 RTF 约 0.65（跑不到实时），320 ms 约 0.26，1120 ms 约 0.11；想用 CPU 做实时字幕，通常要选较大分块或较强 CPU。

适合：多语种实时字幕、低功耗设备、CPU 部署（建议 560 ms 以上分块）、对中文精度要求不高的场景。

不适合：中文听写、中文会议记录、需要高精度专有名词的场景。

Whisper large-v3-turbo：生态与语种覆盖的基准线

优势：809M；99 种语言；MIT 许可；原生时间戳；生态最成熟，工具链和教程最多；比 large-v3 快约 8 倍。

短板：英文 Open ASR 均值 7.83，低于新一代模型；中文 AISHELL-1 8.64、WenetSpeech net 13.51，明显落后于 Qwen3；无原生流式；约 6 GB 显存（第三方参考值）；翻译能力不是它的强项。

适合：需要覆盖大量小语种、需要时间戳、依赖成熟工具链、对最高准确率不敏感的用户。

不适合：中文为主、追求最高英文准确率、需要真流式的场景。

场景决策树

五个常见误区

误区一：旧榜第一，现在还是第一。 Cohere 的 5.42 是 2026-03-26 发布日快照；2026-09 快照已降至约第 20，Qwen3 反超。任何“第几”都必须带日期。Cohere 也没有公开普通话 CER，且官方明确说明 code-switch 不稳定。

误区二：参数越大越准。 Whisper turbo 有 809M，但英文均值 7.83，低于 0.6B 的 Parakeet（5.91）和 1.7B 的 Qwen3（2026-09 快照约 4.95）。架构、训练数据和任务匹配比参数量更重要。

误区三：厂商延迟就是你的延迟。 160 ms、100 ms 往往是最佳硬件、特定分块、首字延迟；端到端体验还受量化、推理框架和系统负载影响。

误区四：量化一定会明显掉点。 Parakeet 的 Q5 在 LibriSpeech test-clean 上与 FP16 基本持平；但这是模型和测试集特定结果，不能外推。正确做法是拿你自己的音频测。

误区五：支持语言多，混说就强。 Cohere 支持 14 种语言，但不支持自动语种识别，code-switch 不稳定；Nemotron 支持 40 个语言区域，但普通话只有 broad-coverage 水平。语言数量不等于混说能力。

在 Voconly 里怎么选

Voconly 的模型可以在设置中随时切换，默认下载档位通常是 Q5（具体以设置页为准）。实用的初始配置是：

• 中文/中英混说：Qwen3-ASR 1.7B。
• 低配电脑、纯中文：SenseVoice Small。
• 英文实时：Parakeet Unified EN。
• 纯英文离线高精度：Qwen3-ASR 1.7B；Cohere Transcribe 仅在纯英文批处理、不需要时间戳时作备选。
• 多语种实时/CPU：Nemotron 3.5 ASR。
• 小语种、时间戳：Whisper large-v3-turbo。

模型只是第一层。实际体验还取决于麦克风、噪声环境、你的口音、专业术语和文本后处理。建议先用一周时间，在同一套真实音频上对比 2–3 个模型，再固定默认值。

本文的局限与验证方法

局限：

• 本文没有做第一方实验室实测，所有数字来自公开来源。
• 不同来源的测试集、语言、量化档位和硬件不同，不能视为严格受控的横向实验。
• Open ASR Leaderboard 的提交时间和数据集版本会变化；本文同时给出历史记录和较新快照，不把任何单一快照当作永久排名。
• 厂商延迟数据通常是最佳配置，不能直接等同于 Voconly 的端到端体验。
• Q5 文件大小来自 Voconly 自有的 GGUF 转换仓库，不是中立第三方测量。

你可以用三步验证本文：

1. 选一段你自己的真实音频，覆盖你的主场景（纯中文、纯英文或中英混说），至少 30 句。
2. 用相同的音频、相同的量化档位和同一台机器，分别跑 2–3 个模型；用 jiwer 计算 WER/CER，并记录 p50/p95 延迟。
3. 把结果与本文的公开数据对照。如果差异很大，优先相信你自己的测试，因为你的口音、麦克风和场景才是最终变量。

利益冲突声明

Voconly 内置并分发本文提到的多个模型，因此本文存在潜在利益冲突。我们尽量只使用官方模型卡、公开榜单和可复现的第三方测试，并把每个模型的缺点写出来；本文没有接受任何模型厂商的付费排名。如果你发现数据错误，欢迎指出，我们会更新并记录日期。

更新日志

• 2026-10-19：首次发布。数据截至 2026-10-19；Open ASR 数据来自各模型官方提交记录，中文数据来自官方模型卡与第三方公开评测。
• 2026-10-19（修订）：依据 2026-09 最新快照修订英文排名结论；补充 Nemotron 的 CPU 适用边界与语言分层、Qwen3 效率口径、Cohere RTFx、Parakeet 低延迟建议，以及 Q5 体积来源说明；修正 Nemotron 许可为 OpenMDW-1.1。

常见问题

中文语音输入到底选哪个？

优先 Qwen3-ASR 1.7B。它在 AISHELL-2、WenetSpeech、SpeechIO、FLEURS-zh 上的公开 CER 都在 2.4–5.9% 区间。机器性能有限时选 SenseVoice Small。

中英混说选哪个？

Qwen3-ASR 1.7B。Cohere Transcribe 要求手动指定单一语言，且官方承认 code-switch 不稳定；Nemotron 3.5 支持自动语种识别，但普通话精度只有 broad-coverage 水平。

英文实时听写选哪个？

Parakeet Unified EN。它提供 160 ms 缓冲流式，离线 Open ASR 均值 5.91。若还要多语种或纯 CPU，选 Nemotron 3.5，但要知道中文精度会明显下降。

Nemotron 3.5 的中文真的不行吗？

它的普通话 FLEURS CER 为 19–21%，官方将其列为 broad-coverage，而不是可直接转录级。日常中文听写不建议用；多语种实时字幕、低功耗 CPU 场景才是它的强项。

Nemotron 真的能在纯 CPU 上跑多语种吗？

可以。NVIDIA 官方文档把 CPU 列为可选后端，LiveKit 也明确说明 CUDA 不是必需。但纯 CPU 的实时性取决于分块和实现：80 ms 分块很难实时，560 ms 以上更现实；低功耗设备上建议先用自己的音频测 p50/p95。

Cohere 还是英文第一吗？为什么中文不推荐？

不是。5.42 是 2026-03-26 发布日快照的英文均值；到 2026-09-25 的第三方快照，Cohere 约 5.40、约第 20，Qwen3-ASR-1.7B 约 4.95 反超。Cohere 仍适合纯英文批处理，但不应再以“第一”为前提选型。它也没有公开普通话 CER，官方明确说明模型面向单一预设语言、code-switch 不稳定、无自动语种识别、无时间戳。中文场景应选 Qwen3-ASR 或 SenseVoice。

Q5 量化会掉多少准确率？

因模型而异。公开的第三方测试中，Parakeet 的 Q5 在 LibriSpeech test-clean 上与 FP16 基本持平（1.58 vs 1.63），SenseVoice Q5 在同一测试集上为 3.18；但这不能外推到 Qwen3 或 Cohere。最可靠的方法是用你的音频实测。

哪个模型最省资源？

SenseVoice Small 最轻（234M，Q5 约 164 MB）；其次是 Parakeet 和 Nemotron（约 0.5 GB）。Qwen3 和 Cohere 的 Q5 文件在 1.4–1.7 GB，实际内存占用更高。

Whisper 还值得用吗？

值得，但要看场景。它的优势是 99 种语言、MIT 许可、原生时间戳和成熟生态；英文和中文准确率已经落后于新一代模型。如果你需要小语种覆盖或时间戳，Whisper 仍然实用。

这些模型能商用吗？

六款模型都提供可商用的许可路径，但条款不同：Qwen3、Cohere 是 Apache 2.0，Whisper 是 MIT，Parakeet 是 NVIDIA Open Model License，Nemotron 是 OpenMDW-1.1（NVIDIA Open Model Data License），SenseVoice 是 FunASR Model Open Source License（商用需满足署名等条件）。Nemotron 的官方模型卡明确写明适用 OpenMDW-1.1；部分第三方平台误标为 NVIDIA Open Model License，商用前请以官方模型卡为准。

为什么没有一个总分排名？

因为英文 WER、中文 CER、延迟、语言覆盖和许可无法加权成一个对所有用户都成立的总分。一个只做中文听写的人，和一个需要 99 种语言字幕的人，最优选择本来就不同。

数据来源

• Qwen3-ASR GitHub（模型变体、中文/英文基准、流式与时间戳说明）
• Qwen3-ASR-1.7B 模型卡
• Qwen3-ASR Technical Report（arXiv:2601.21337）
• Cohere Transcribe 发布说明（英文 Open ASR 5.42 与 14 种语言）
• Cohere Transcribe 文档（无自动语种识别、无时间戳、单语言限制）
• CohereLabs/cohere-transcribe-03-2026 模型卡
• NVIDIA Nemotron 3.5 ASR Streaming 0.6B 模型卡
• NVIDIA Nemotron 3.5 ASR Transformers 文档
• NVIDIA ACE Nemotron ASR 部署文档（CPU/CUDA/Vulkan 后端）
• LiveKit：Nemotron 3.5 ASR 多语种部署（CUDA 非必需）
• transcribe.cpp：Nemotron 3.5 CPU/Q5 测试
• NVIDIA Parakeet Unified EN 0.6B 模型卡
• FunAudioLLM SenseVoice GitHub
• FunAudioLLM/SenseVoiceSmall 模型卡
• OpenAI Whisper large-v3-turbo 模型卡
• Hugging Face Open ASR Leaderboard
• Open ASR Leaderboard 结果数据集（含较新快照）
• Open ASR Leaderboard 论文（arXiv:2510.06961）
• Spokenly：2026-09-25 Open ASR 快照汇总（第三方，C 档）
• BELLE-2 Whisper 中文评测（AISHELL/WenetSpeech CER）
• InferenceBench：Cohere Transcribe 真实音频评测
• transcribe.cpp：Parakeet Unified EN Q5 评测
• transcribe.cpp：SenseVoice Small Q5 评测
• voconly-org/Qwen3-ASR-1.7B-gguf
• voconly-org/cohere-transcribe-03-2026-gguf
• voconly-org/parakeet-unified-en-0.6b-gguf
• voconly-org/nemotron-3.5-asr-streaming-0.6b-gguf
• voconly-org/whisper-large-v3-turbo-gguf

---

从 GitHub 下载 Voconly →

你的声音。你的设备。你的选择。

最后更新：2026 年 10 月 19 日。模型性能和基准数据变化很快，请以官方模型卡和榜单为准。