🎉 Giảm 20% cho đơn hàng đầu tiên!✦🚚 Miễn phí vận chuyển cho đơn trên 500.000₫✦⚡ Flash Sale — Số lượng có hạn!✦🎁 Quà tặng kèm cho đơn từ 1.000.000₫✦🎉 Giảm 20% cho đơn hàng đầu tiên!✦🚚 Miễn phí vận chuyển cho đơn trên 500.000₫✦⚡ Flash Sale — Số lượng có hạn!✦🎁 Quà tặng kèm cho đơn từ 1.000.000₫✦
Mổ model Qwen3-ASR-0.6B: một neuron đẩy model sang chữ Thái và bài học bug hay gap
Quay lại Blog

Mổ model Qwen3-ASR-0.6B: một neuron đẩy model sang chữ Thái và bài học bug hay gap

18 tháng 11, 20269 phút đọcVũ Khôi
Tin tức
#Wotech
Vũ Khôi

Vũ Khôi

Tác giả tại Wotech Electronics Blog

Sơ đồ neuron map: neuron 128 ở layer 22 của Qwen3-ASR-0.6B với cột weight đẩy model về tiếng Thái, tiếng Trung và tiếng Quảng Đông

Mổ model Qwen3-ASR-0.6B: một neuron đẩy model sang chữ Thái và bài học bug hay gap

Audio là "xin chào gia đình Tanaka", model trả về một câu chữ Thái đọc lên gần như đúng âm tiếng Việt. Tác giả Nam Nam trong nhóm Machine Learning Cơ Bản đã "mổ" model nhận dạng giọng nói mã nguồn mở Qwen3-ASR-0.6B để tìm nguyên nhân — và lần ra một neuron đáng ngờ ở layer 22. Nhưng câu chuyện đáng đọc nhất không phải là neuron đó, mà là cách anh phân biệt bug với gap trước khi sửa, và sự thận trọng khi kết luận.

Trả lời nhanh: Model Qwen3-ASR-0.6B nghe được khá nhiều âm tiếng Việt nhưng chọn nhầm bảng chữ cái, trả về chữ Thái cho câu "xin chào gia đình Tanaka". Tác giả xác định đây là bug chứ không phải gap, vì ở 12/18 vị trí kiểm tra, từ đúng đã lọt top-10 ở các layer giữa — trong đầu model đã có đáp án. Sau khi quét 1.050 neuron ở layer 18–24, nghi phạm lộ ra: neuron 128 ở layer 22, có cột weight đẩy model về phía tiếng Thái, tiếng Trung và tiếng Quảng Đông. Dùng hook ức chế neuron này chỉ ở các token quyết định ngôn ngữ thì sửa được 8/8 câu lỗi, không làm hỏng câu sạch nào, và WER trên tập thử giảm gần 4% số lỗi. Nhưng ghi thẳng vào weight thì hỏng: xóa cột của neuron sửa được 0/8, cách bias phá 20/207 câu đang đúng. Tác giả nhấn mạnh kết quả mới kiểm tra nhân quả trên 8 câu lỗi và lỗi này chỉ chiếm khoảng 2% số câu, nên chưa dám gọi neuron 128 là "công tắc ngôn ngữ" của model.

Thẻ ngôn ngữ (language tag) là thứ Qwen3-ASR sinh ra trước khi chép lời: model quyết định ngôn ngữ trước, rồi mới chuyển âm thanh thành chữ theo ngôn ngữ đó. Thẻ mà sai thì cả câu đi theo luôn — đó là lý do một lỗi ở bước chọn ngôn ngữ có thể biến toàn bộ câu tiếng Việt thành chữ Thái dù model nghe đúng âm.

Model nghe đúng âm nhưng sao lại ra chữ Thái?

Tác giả kể: audio là "xin chào gia đình Tanaka", còn model trả về ชินแจว จาริน ตาณกา. Lúc đầu anh tưởng lỗi rác, nhưng đọc thử theo âm Thái thì nó ra gần như "chin-chao cha-rin ta-na-ka" — model nghe được khá nhiều âm, nhưng lại chọn nhầm bảng chữ cái. Ép nó sang tiếng Việt thì ra "Chinh chào, Charing Tanaka": chưa đúng hết, nhưng đã gần câu gốc hơn hẳn.

Qwen3-ASR-0.6B là model nhận dạng giọng nói mã nguồn mở của team Qwen, khoảng 0,8 tỉ tham số, hỗ trợ 30 ngôn ngữ trong đó có tiếng Việt, nhỏ và chạy được trên máy cá nhân — đó là lý do tác giả thích vọc nó. Lỗi chữ Thái này, theo cách anh mô tả, không phải là model "điếc" mà là model "nghe rõ nhưng viết sai hệ chữ".

Đây là bug hay gap?

Trước khi sửa, tác giả tự hỏi một câu quyết định cách xử lý: đây là bug hay gap? Theo định nghĩa của anh, gap là model chưa học tới — cái này phải thêm data, phải train. Bug là model biết rồi nhưng có thứ gì đó chặn lại — cái này mới có cửa sửa thẳng vào bên trong.

Phần lớn lỗi tiếng Việt của model, anh đo ra, là gap. Nhưng lỗi chữ Thái thì khác: ở 12/18 vị trí anh kiểm tra, từ đúng đã lọt top-10 ở các layer giữa. Tức là trong đầu model đã có đáp án, chỉ là đáp án đó không thắng ở bước chọn cuối cùng. Bằng chứng này khiến anh xếp lỗi chữ Thái vào loại bug — và bug thì có thể can thiệp trực tiếp vào bên trong model.

Tìm ra neuron 128 ở layer 22 như thế nào?

Qwen3-ASR có một thói quen: nó sinh thẻ ngôn ngữ trước, rồi mới chép lời. Thẻ mà sai thì cả câu đi theo luôn. Tác giả để một LLM vào "soi" model cùng với logit lens, attribution và cách quét neuron kiểu neuron-explorer đang nổi gần đây. Sau khi quét 1.050 neuron ở layer 18 đến 24, nghi phạm lộ ra: neuron 128 ở layer 22. Cột weight của nó đẩy model về phía tiếng Thái, tiếng Trung và tiếng Quảng Đông.

Nói cách khác, phương pháp của anh là quét có hệ thống thay vì đoán mò: đo xem neuron nào, ở layer nào, có ảnh hưởng lên quyết định chọn ngôn ngữ — rồi mới can thiệp vào đúng chỗ đó, thay vì sửa bừa cả model.

Can thiệp bằng hook hiệu quả ra sao — và sửa weight thì sao?

Tác giả thử dùng hook ức chế neuron 128, chỉ đúng ở các token quyết định ngôn ngữ. Kết quả đối chiếu đầy đủ như sau:

Cách can thiệp Kết quả Cách tác giả đọc kết quả
Hook ức chế neuron 128 ở token quyết định ngôn ngữ Sửa được 8/8 câu lỗi, không làm hỏng câu nào trong 8 câu sạch; WER trên tập thử giảm gần 4% số lỗi Can thiệp đúng lúc, đúng chỗ thì hiệu quả mà không phá gì
Hướng ngẫu nhiên cùng layer (đối chứng) Chỉ sửa được trung bình 1,6/8, lại còn làm hỏng 2,2/8 Chứng tỏ hiệu quả của hook không phải do can thiệp bừa — đúng neuron mới có tác dụng
Ghi thẳng vào weight: xóa cột của neuron Sửa được 0/8 Xóa hẳn không có tác dụng
Ghi thẳng vào weight: cách bias Sửa được lỗi, nhưng phá 20/207 câu đang đúng, WER còn tăng lên Sửa được lỗi nhưng phá nhiều hơn được

Bài học tác giả rút ra: hook chọn được lúc nào can thiệp, còn weight thì tác động ở mọi bước, kể cả khi model đang chép lời bình thường. Cùng một neuron, can thiệp có chọn lọc theo thời điểm thì sửa được lỗi, can thiệp vĩnh viễn vào weight thì phá nhiều hơn sửa.

Kết quả này đáng tin tới đâu?

Tác giả tự đặt giới hạn cho kết luận của mình, và đó là phần đáng chú ý nhất của bài đăng. Anh nói rõ: mới kiểm tra nhân quả trên 8 câu lỗi, kết quả hook chưa chạy trên tập test, và lỗi này chỉ chiếm khoảng 2% số câu ở tập anh đo. Nên anh chưa dám gọi neuron 128 là "công tắc ngôn ngữ" của model — chỉ có thể nói nó có vai trò thật trong lỗi này.

Sự thận trọng này là điểm khác biệt giữa một thí nghiệm nghiêm túc và một tuyên bố giật gân: một neuron có vai trò thật trong một lỗi cụ thể, trên một tập kiểm tra nhỏ, chưa đủ để kết luận nó là công tắc điều khiển toàn bộ hành vi chọn ngôn ngữ của model. Bài đăng để ngỏ việc kiểm chứng thêm trên tập test lớn hơn.

Câu hỏi thường gặp

1. Qwen3-ASR-0.6B là model gì? Theo bài đăng, đó là model nhận dạng giọng nói mã nguồn mở của team Qwen, khoảng 0,8 tỉ tham số, hỗ trợ 30 ngôn ngữ trong đó có tiếng Việt, nhỏ và chạy được trên máy cá nhân.

2. Lỗi chữ Thái xảy ra như thế nào? Model nghe audio "xin chào gia đình Tanaka" và trả về chữ Thái đọc lên gần đúng âm tiếng Việt. Theo tác giả, model nghe được khá nhiều âm nhưng chọn nhầm bảng chữ cái, vì nó sinh thẻ ngôn ngữ trước rồi mới chép lời — thẻ sai thì cả câu đi theo.

3. Bug và gap khác nhau ra sao theo cách hiểu của tác giả? Gap là model chưa học tới, phải thêm data và train. Bug là model đã biết đáp án nhưng có thứ gì đó chặn lại, nên có thể sửa thẳng vào bên trong. Bằng chứng lỗi chữ Thái là bug: ở 12/18 vị trí kiểm tra, từ đúng đã lọt top-10 ở các layer giữa.

4. Hook ức chế neuron 128 hiệu quả tới mức nào? Theo bài đăng, hook sửa được 8/8 câu lỗi, không làm hỏng câu nào trong 8 câu sạch, và WER trên tập thử giảm gần 4% số lỗi. Hướng ngẫu nhiên cùng layer để đối chứng chỉ sửa được trung bình 1,6/8 và làm hỏng 2,2/8.

5. Vì sao không sửa thẳng vào weight của neuron? Vì weight tác động ở mọi bước, kể cả khi model chép lời bình thường. Theo bài đăng, xóa cột của neuron sửa được 0/8, còn cách bias tuy sửa được lỗi nhưng phá 20/207 câu đang đúng và làm WER tăng lên. Hook thì chỉ can thiệp đúng lúc quyết định ngôn ngữ.

Nguồn: bài đăng của Nam Nam trong nhóm Machine Learning Cơ Bản (18/11/2026). Các thí nghiệm, số liệu và nhận định trong bài là của tác giả bài đăng, chưa được Wotech kiểm chứng độc lập.