字幕错误有时源于识别第一个字之前的处理。设想一段音频:开头是音乐,停顿片刻后,从普通话说话声转入歌唱。转写系统需要判断哪些片段应当写成文字,以及每段从哪里开始。轻声说出的一个音节若被切掉,识别器便无从听见;一段纯器乐若被保留,送到识别器面前的就是没有词语可供还原的声音。
识别之前的这一步判断,正是小红书 FireRed 团队于2026年2月发布的 FireRedASR2S 的重点。这个软件包将识别器与语音活动检测、语种识别、标点预测组合起来。首批权重和推理代码于2月12日发布,规模更大的 LLM 识别器随后于2月25日推出。此次发布既涉及转写出的文字,也涉及转写前后的处理工作。[2]
识别器前后有哪些变化
2025年1月24日发布的第一代 FireRedASR 确立了两种方案:一种采用基于注意力机制的编码器—解码器,简称 AED;另一种将语音编码器经由适配器连接到语言模型。前者的识别模型规模较小,后者则将语言模型的能力引入语音识别任务。[1]
2026年3月的技术报告显示,模型架构大体沿用前版,训练数据从约70,000小时增加到约 200,000小时,覆盖的语言、方言和领域也更广。AED 分支新增了对齐组件,用于生成时间戳。[3]
这两种方案的取舍仍然影响实际使用。FireRedASR2-AED 的参数量约为10亿,FireRedASR2-LLM 则超过80亿。[3] 发布说明列出的 AED 功能包括词级时间戳和置信度分数,转写能力覆盖普通话、中国方言及口音、英语,以及中英混合语音。[2] 对字幕编辑者而言,知道一个词对应哪段声音,其价值有时足以比肩平均识别成绩的小幅提升。
先切分,再识别
公开的参考实现让这套处理顺序有据可查。它的 process 方法先检测语音区间,切分波形,再把切出的片段送入识别器。随后补充语种信息和标点,将句子与可选的词级时间信息汇入结果。关闭检测时,整段录音会作为一个输入区间。该实现要求输入16 kHz音频。[4]
开发者排查漏掉的短语时,由此有了具体的切入点:那段声音在识别之前就被排除了,还是识别器已经听到,却选错了文字?两种错误需要各自对应的修正。对于先前环节已经丢弃的音频,更换语言模型也无法将它恢复。
语种标签同样值得细看。在这条参考流程中,转写完成后才对音频片段做语种识别,识别出的语种作为信息附在输出中。系统不会根据检测到的每一种语言自动选择相应的识别器。[4] 其他应用可以借助标签,将录音分派给相应的处理程序,但分派逻辑需要由那个应用自行补上。
功能支持表进一步说明了两者的差别:语种识别覆盖100多种语言,发布说明中的转写能力则主要集中于中文和英文。[2] 判断出说话者使用哪种语言,与将这种语言转写成文字,属于两项需要分别确认的能力。接收多语种上传内容的服务,需要明确考虑这项差距。
按测试口径理解分数
报告给出的 FireRedASR2-LLM 在四个普通话测试集上的平均字错误率为2.89%,AED 则为3.05%。这两个数值均为四个测试集成绩的等权平均:AISHELL-1、AISHELL-2 的 iOS 测试集,以及 WenetSpeech 的互联网和会议测试集。数值描述的是这些测试集上的表现;任意一条字幕正确的概率,仍须另行评估。[3]
语音检测采用另一种评价单位。报告中的 97.57% F1 来自逐帧的语音与非语音分类评估,使用了9,443条人工标注的 FLEURS 录音,涵盖102种语言。各神经网络检测器均在固定的0.5概率阈值下进行比较。这个工作点会影响结果:调整阈值,漏检语音与误报之间的取舍也随之变化。对用作基线的商业语音识别(ASR)系统,还须考虑其 API 背后实现变动这一变量。[3]
回到前面设想的音乐与语音片段,这些成绩仍留下了一个值得检验的问题:整套系统在声音切换处表现如何?识别器的平均成绩与检测器的分数各自表现出色,轻声唱出的一句开头能否完整保留,仍需专门测量。
特定工作负载下的加速成绩
加速指南给出了另一项具体结果:在一张 NVIDIA H20 上,对时长十小时的 AISHELL-1 测试集进行解码,使用 TensorRT 耗时60秒,PyTorch 基线耗时760秒,前者的速度约为后者的12.7倍。该指南针对 FireRedASR2-AED,同时给出离线推理和 Triton 服务器部署方案。[5]
这项数据说明了文档所载配置下的批量解码速度。一个人开口之后,实时字幕多久出现,还涉及更多环节:服务需要等待足够的音频,判断何时结束一个片段,处理并发请求,再将结果送达。已公布的用时数据尚未分别测量这些延迟。[5]
此次发布的实际价值,在于转写流程中有更多环节可以检查。评估者可以保留检测出的区间,对照时间信息检查转写文本,并测试有代表性的声音变化:轻声的开头、伴有音乐的说话声、方言切换,以及长时间停顿。下一步更有说服力的结果,需要将这些组件的判断与完整录音中的表现联系起来。对于字幕,最终要检验的是:正确的文字是否仍然对应着产生它的声音。
来源
- FireRed 团队,初代 FireRedASR 代码仓库:2025年1月至2月的发布记录,以及 AED 和编码器—适配器—LLM 两种方案。
- FireRed 团队,FireRedASR2S 发布说明与模型支持表,固定至修订版本 4e7d9aaf;2026年2月至3月的发布节点与模型能力。
- Kaituo Xu 等,《FireRedASR2S: A State-of-the-Art Industrial-Grade All-in-One Automatic Speech Recognition System》,2026年3月11日,第1版;训练变化、评估定义与局限。
- FireRed 团队,参考流程实现
fireredasr2system.py,修订版本 4e7d9aaf;音频切分、转写、语种标签与输出组装。 - FireRed 团队,《使用 TensorRT-LLM 加速 FireRedASR2-AED》,修订版本 4e7d9aaf;单张 H20 上的 AISHELL-1 处理用时与部署方式。
- xiquinhosilva,《Xintiandi 21731-Shanghai》,摄于2016年10月14日,Wikimedia Commons;SOHO 复兴广场,CC BY 2.0。
- 小红书,官方双语版权联系页面;公司地址位于上海复兴 SOHO 广场。