
Vũ Khôi
Tác giả tại Wotech Electronics Blog

解剖 Qwen3-ASR-0.6B:一个将模型推向泰文的神经元,以及 Bug 与 Gap 的教训
音频是“xin chào gia đình Tanaka”(你好,田中一家),模型却返回了一句读起来几乎与越南语音相同的泰文句子。Machine Learning Cơ Bản 小组中的作者 Nam Nam“解剖”了开源语音识别模型 Qwen3-ASR-0.6B 以寻找原因,并追踪到了第 22 层一个可疑的神经元。但这个故事中最值得读的部分不是那个神经元,而是他在修复之前如何区分 Bug 与 Gap,以及他在下结论时的谨慎。
快速回答: Qwen3-ASR-0.6B 模型相当准确地听到了越南语音,却选错了字母系统,将“xin chào gia đình Tanaka”返回为泰文。作者判定这是 Bug 而非 Gap,因为在检查的 18 个位置中有 12 个,正确 token 在中间层已经进入了前 10 名——答案已经在模型脑中。在扫描第 18–24 层的 1,050 个神经元后,嫌疑对象浮现:第 22 层的 128 号神经元,其权重列将模型推向泰语、中文和粤语。仅在决定语言的 token 处用钩子抑制该神经元,修复了 8/8 个错误句子,没有破坏 8 个干净句子中的任何一个,试验集上的 WER 减少了近 4% 的错误。但直接写入权重却失败了:删除该神经元的列修复了 0/8,偏置方法破坏了 20/207 个正确句子。作者强调,因果检验仅覆盖 8 个错误句子,且这种错误类型仅占约 2% 的句子,因此他不敢称 128 号神经元为模型的“语言开关”。
语言标签(language tag) 是 Qwen3-ASR 在转录之前生成的东西:模型先决定语言,然后再将音频转换为该语言的文字。如果标签错了,整句话都会跟着错——这就是为什么在语言选择步骤中的一个错误,会把整句越南语变成泰文,尽管模型正确地听到了声音。
模型听对了声音,为什么却输出泰文?
作者是这样讲述的:音频是“xin chào gia đình Tanaka”,模型返回了 ชินแจว จาริน ตาณกา。起初他以为是乱码输出,但按泰语读音读出来,几乎就是“chin-chao cha-rin ta-na-ka”——模型听到了相当多的声音,却选错了字母系统。强制切换到越南语后得到“Chinh chào, Charing Tanaka”:不完全正确,但比原来接近得多。
Qwen3-ASR-0.6B 是 Qwen 团队的开源语音识别模型,约 8 亿参数,支持包括越南语在内的 30 种语言,小到可以在个人电脑上运行——这就是作者喜欢摆弄它的原因。用他的描述来说,这种泰文错误不是模型“耳聋”,而是模型“听得清楚却写错了文字系统”。
这是 Bug 还是 Gap?
在修复之前,作者问了自己一个决定处理方式的问题:这是 Bug 还是 Gap?按照他的定义,Gap 意味着模型还没有学到——这需要更多数据和训练。Bug 意味着模型已经知道了,但有东西在阻挡它——这可以直接在内部修复。
他测量发现,模型的大多数越南语错误都是 Gap。但泰文错误不同:在他检查的 18 个位置中有 12 个,正确 token 在中间层已经进入了前 10 名。也就是说,答案已经在模型脑中,只是在最后的选择步骤中没有胜出。这一证据使他将泰文错误归类为 Bug——而 Bug 可以直接在模型内部干预。
如何找到第 22 层的 128 号神经元?
Qwen3-ASR 有一个习惯:它先生成语言标签,然后再转录。标签错了,整句话都会跟着错。作者让一个 LLM 用 logit lens、归因分析和最近流行的 neuron-explorer 式神经元扫描方法一起“检查”模型。在扫描第 18 至 24 层的 1,050 个神经元后,嫌疑对象浮现:第 22 层的 128 号神经元。它的权重列将模型推向泰语、中文和粤语。
换句话说,他的方法是系统性扫描而非猜测:测量哪个神经元、在哪一层影响语言决策——然后只在那个确切位置进行干预,而不是盲目地修改整个模型。
钩子干预的效果如何——直接修改权重又如何?
作者尝试用钩子抑制 128 号神经元,仅在决定语言的 token 处。完整对比如下:
| 干预方式 | 结果 | 作者的解读 |
|---|---|---|
| 在决定语言的 token 处用钩子抑制 128 号神经元 | 修复了 8/8 个错误句子,没有破坏 8 个干净句子中的任何一个;试验集 WER 减少近 4% 的错误 | 在正确的时间和位置干预,既有效又不破坏任何东西 |
| 同层的随机方向(对照组) | 平均只修复了 1.6/8,还破坏了 2.2/8 | 表明钩子的效果不是随机干预造成的——只有正确的神经元才起作用 |
| 写入权重:删除该神经元的列 | 修复了 0/8 | 直接删除没有任何效果 |
| 写入权重:偏置方法 | 修复了错误,但破坏了 20/207 个正确句子,WER 反而上升 | 修好了错误,但破坏的比修好的更多 |
作者得出的教训是:钩子可以选择何时干预,而权重在每一步都起作用,包括模型正常转录的时候。同一个神经元,按时机有选择地干预可以修复错误,永久地干预权重则破坏的比修复的多。
这个结果有多可信?
作者为自己的结论设定了界限,这是这篇帖子最值得注意的部分。他明确指出:因果检验仅覆盖 8 个错误句子,钩子结果尚未在测试集上运行,而且这种错误类型在他测量的集合中仅占约 2% 的句子。因此他不敢称 128 号神经元为模型的“语言开关”——他只能说它在这个错误中确实发挥了作用。
这种谨慎正是严肃实验与耸人听闻的宣称之间的区别:一个神经元在一个特定错误中确实发挥了作用,在一个小检验集上,还不足以得出它是控制模型整个语言选择行为的开关的结论。该帖子留待在更大的测试集上进一步验证。
常见问题
1. Qwen3-ASR-0.6B 是什么模型? 根据该帖子,它是 Qwen 团队的开源语音识别模型,约 8 亿参数,支持包括越南语在内的 30 种语言,小到可以在个人电脑上运行。
2. 泰文错误是如何发生的? 模型听到音频“xin chào gia đình Tanaka”后,返回了读起来几乎与越南语音相同的泰文。根据作者的说法,模型听到了相当多的声音,却选错了字母系统,因为它先生成语言标签再转录——标签错了,整句话都会跟着错。
3. 按照作者的理解,Bug 和 Gap 有何不同? Gap 意味着模型还没有学到,需要更多数据和训练。Bug 意味着模型已经知道答案,但有东西在阻挡它,因此可以直接在内部修复。泰文错误是 Bug 的证据:在检查的 18 个位置中有 12 个,正确 token 在中间层已经进入了前 10 名。
4. 抑制 128 号神经元的钩子效果如何? 根据该帖子,钩子修复了 8/8 个错误句子,没有破坏 8 个干净句子中的任何一个,试验集上的 WER 减少了近 4% 的错误。同层的随机方向对照组平均只修复了 1.6/8,还破坏了 2.2/8。
5. 为什么不直接修改该神经元的权重? 因为权重在每一步都起作用,包括模型正常转录的时候。根据该帖子,删除该神经元的列修复了 0/8,而偏置方法虽然修复了错误,却破坏了 20/207 个正确句子并使 WER 上升。钩子只在决定语言的时刻进行干预。
来源:Nam Nam 在 Machine Learning Cơ Bản 小组中的帖子(2026 年 11 月 18 日)。本文中的实验、数据和观点属于帖子作者,未经 Wotech 独立核实。
Bài viết liên quan

18 tháng 11, 2026 · 2 phut doc
FPT Software 董事长:美国客户不再愿意按小时付费,公司转向按结果收费
人工智能正在迫使 FPT Software 转变其传统的软件外包模式:美国的大客户现在采用 100% 按结果付费的模式,公司预计 Time and Materials 模式的占比将在 2027 年降至约 50%。这是 FPT Software 董事长 Chu Thị Thanh Hà 在接受《日经新闻》采访时分享的内容——据 Hỏi Dân IT Official 页面的帖子(2026 年 11…

18 tháng 11, 2026 · 2 phut doc
Meta 将 Muse 扩展到澳大利亚:第六个国家、实时语音和本地应用集成
2026 年 11 月 17 日,Meta 将 Muse 扩展到澳大利亚市场——这是第六个获得官方支持的国家,距离其在美国上线仅两个多月。据 Hồ Hoàng Tiến 的帖子(2026 年 11 月 18 日)所说,值得注意的不仅是新增一个市场,而是 Meta 正在逐步将 Muse 从对话式 AI 工具发展为能够与应用交互、处理工作并执行所分配任务的助手。本文中的所有时间、功能和观点均来自该帖…

18 tháng 11, 2026 · 2 phut doc
AI 智能体成本随步骤数的平方增长:在换用更便宜的模型之前,先用 4 层方法削减 Token 开支
你不是在为答案付费——你是在为重复询问同一件事的次数付费。这是 Hoang Viet AI 在 comailo 小组帖子(2026 年 11 月 18 日)中的核心论点:一个运行 40 个步骤的智能体,在每一步都重新发送完整的对话历史,它不是在为 40 个答案付费,而是在为同一段上下文付费 40 次——而且这段上下文在每一步之后都会变长。该帖子也坦率地说明了它所依据的病毒式传播故事的局限性:作者…