ESC
AI 1 分钟阅读

MacBook Air 上约 13 秒转录一小时音频:基于 EmbeddingGemma 2 的语音识别实验

开发者利用多模态嵌入模型 EmbeddingGemma 2(文本、图像、音频、视频共享同一向量空间)尝试直接从嵌入空间"读出"文字实现语音识别。仅训练读取器:在 8×H100 上不到两小时、使用开放许可英语语音数据,底座模型从未针对语音转文字训练。在 M3 MacBook Air 上实现约 13 秒转录一小时音频,词错率约 5%,仍落后于主流语音模型的 2–3%。

来源:Hacker News

EmbeddingGemma 2 是一个多模态嵌入模型:文本、图像、音频和视频共享同一个向量空间。 大声说出一个词,其音频就会落在与该词书面形式相近的位置。

于是我们尝试直接从这个空间里"读出"文字。

只有读取器经过了训练:在 8×H100 上用时不到两小时,训练数据为开放许可的英语语音。 底座模型从未针对语音转文字任务进行过训练。

× 实时倍率:每 1 秒处理时间对应的音频秒数。第 1–2 行:我们在同一台基础版 M3 MacBook Air 上的测试结果。 第 3–5 行:FluidAudio 在更大、更新的 Mac 及不同音频上的结果。仅作粗略参考,并非严格意义上的同条件对比。

其词错率目前约为 5%,而领先语音模型为 2–3%。我们相信经过更好训练的读取器能够缩小这一差距,这也是下一次迭代的目标。