
Mổ model Qwen3-ASR-0.6B: một neuron đẩy model sang chữ Thái và bài học bug hay gap
Vũ Khôi
Tác giả tại Wotech Electronics Blog

Mổ model Qwen3-ASR-0.6B: một neuron đẩy model sang chữ Thái và bài học bug hay gap
Audio là "xin chào gia đình Tanaka", model trả về một câu chữ Thái đọc lên gần như đúng âm tiếng Việt. Tác giả Nam Nam trong nhóm Machine Learning Cơ Bản đã "mổ" model nhận dạng giọng nói mã nguồn mở Qwen3-ASR-0.6B để tìm nguyên nhân — và lần ra một neuron đáng ngờ ở layer 22. Nhưng câu chuyện đáng đọc nhất không phải là neuron đó, mà là cách anh phân biệt bug với gap trước khi sửa, và sự thận trọng khi kết luận.
Trả lời nhanh: Model Qwen3-ASR-0.6B nghe được khá nhiều âm tiếng Việt nhưng chọn nhầm bảng chữ cái, trả về chữ Thái cho câu "xin chào gia đình Tanaka". Tác giả xác định đây là bug chứ không phải gap, vì ở 12/18 vị trí kiểm tra, từ đúng đã lọt top-10 ở các layer giữa — trong đầu model đã có đáp án. Sau khi quét 1.050 neuron ở layer 18–24, nghi phạm lộ ra: neuron 128 ở layer 22, có cột weight đẩy model về phía tiếng Thái, tiếng Trung và tiếng Quảng Đông. Dùng hook ức chế neuron này chỉ ở các token quyết định ngôn ngữ thì sửa được 8/8 câu lỗi, không làm hỏng câu sạch nào, và WER trên tập thử giảm gần 4% số lỗi. Nhưng ghi thẳng vào weight thì hỏng: xóa cột của neuron sửa được 0/8, cách bias phá 20/207 câu đang đúng. Tác giả nhấn mạnh kết quả mới kiểm tra nhân quả trên 8 câu lỗi và lỗi này chỉ chiếm khoảng 2% số câu, nên chưa dám gọi neuron 128 là "công tắc ngôn ngữ" của model.
Thẻ ngôn ngữ (language tag) là thứ Qwen3-ASR sinh ra trước khi chép lời: model quyết định ngôn ngữ trước, rồi mới chuyển âm thanh thành chữ theo ngôn ngữ đó. Thẻ mà sai thì cả câu đi theo luôn — đó là lý do một lỗi ở bước chọn ngôn ngữ có thể biến toàn bộ câu tiếng Việt thành chữ Thái dù model nghe đúng âm.
Model nghe đúng âm nhưng sao lại ra chữ Thái?
Tác giả kể: audio là "xin chào gia đình Tanaka", còn model trả về ชินแจว จาริน ตาณกา. Lúc đầu anh tưởng lỗi rác, nhưng đọc thử theo âm Thái thì nó ra gần như "chin-chao cha-rin ta-na-ka" — model nghe được khá nhiều âm, nhưng lại chọn nhầm bảng chữ cái. Ép nó sang tiếng Việt thì ra "Chinh chào, Charing Tanaka": chưa đúng hết, nhưng đã gần câu gốc hơn hẳn.
Qwen3-ASR-0.6B là model nhận dạng giọng nói mã nguồn mở của team Qwen, khoảng 0,8 tỉ tham số, hỗ trợ 30 ngôn ngữ trong đó có tiếng Việt, nhỏ và chạy được trên máy cá nhân — đó là lý do tác giả thích vọc nó. Lỗi chữ Thái này, theo cách anh mô tả, không phải là model "điếc" mà là model "nghe rõ nhưng viết sai hệ chữ".
Đây là bug hay gap?
Trước khi sửa, tác giả tự hỏi một câu quyết định cách xử lý: đây là bug hay gap? Theo định nghĩa của anh, gap là model chưa học tới — cái này phải thêm data, phải train. Bug là model biết rồi nhưng có thứ gì đó chặn lại — cái này mới có cửa sửa thẳng vào bên trong.
Phần lớn lỗi tiếng Việt của model, anh đo ra, là gap. Nhưng lỗi chữ Thái thì khác: ở 12/18 vị trí anh kiểm tra, từ đúng đã lọt top-10 ở các layer giữa. Tức là trong đầu model đã có đáp án, chỉ là đáp án đó không thắng ở bước chọn cuối cùng. Bằng chứng này khiến anh xếp lỗi chữ Thái vào loại bug — và bug thì có thể can thiệp trực tiếp vào bên trong model.
Tìm ra neuron 128 ở layer 22 như thế nào?
Qwen3-ASR có một thói quen: nó sinh thẻ ngôn ngữ trước, rồi mới chép lời. Thẻ mà sai thì cả câu đi theo luôn. Tác giả để một LLM vào "soi" model cùng với logit lens, attribution và cách quét neuron kiểu neuron-explorer đang nổi gần đây. Sau khi quét 1.050 neuron ở layer 18 đến 24, nghi phạm lộ ra: neuron 128 ở layer 22. Cột weight của nó đẩy model về phía tiếng Thái, tiếng Trung và tiếng Quảng Đông.
Nói cách khác, phương pháp của anh là quét có hệ thống thay vì đoán mò: đo xem neuron nào, ở layer nào, có ảnh hưởng lên quyết định chọn ngôn ngữ — rồi mới can thiệp vào đúng chỗ đó, thay vì sửa bừa cả model.
Can thiệp bằng hook hiệu quả ra sao — và sửa weight thì sao?
Tác giả thử dùng hook ức chế neuron 128, chỉ đúng ở các token quyết định ngôn ngữ. Kết quả đối chiếu đầy đủ như sau:
| Cách can thiệp | Kết quả | Cách tác giả đọc kết quả |
|---|---|---|
| Hook ức chế neuron 128 ở token quyết định ngôn ngữ | Sửa được 8/8 câu lỗi, không làm hỏng câu nào trong 8 câu sạch; WER trên tập thử giảm gần 4% số lỗi | Can thiệp đúng lúc, đúng chỗ thì hiệu quả mà không phá gì |
| Hướng ngẫu nhiên cùng layer (đối chứng) | Chỉ sửa được trung bình 1,6/8, lại còn làm hỏng 2,2/8 | Chứng tỏ hiệu quả của hook không phải do can thiệp bừa — đúng neuron mới có tác dụng |
| Ghi thẳng vào weight: xóa cột của neuron | Sửa được 0/8 | Xóa hẳn không có tác dụng |
| Ghi thẳng vào weight: cách bias | Sửa được lỗi, nhưng phá 20/207 câu đang đúng, WER còn tăng lên | Sửa được lỗi nhưng phá nhiều hơn được |
Bài học tác giả rút ra: hook chọn được lúc nào can thiệp, còn weight thì tác động ở mọi bước, kể cả khi model đang chép lời bình thường. Cùng một neuron, can thiệp có chọn lọc theo thời điểm thì sửa được lỗi, can thiệp vĩnh viễn vào weight thì phá nhiều hơn sửa.
Kết quả này đáng tin tới đâu?
Tác giả tự đặt giới hạn cho kết luận của mình, và đó là phần đáng chú ý nhất của bài đăng. Anh nói rõ: mới kiểm tra nhân quả trên 8 câu lỗi, kết quả hook chưa chạy trên tập test, và lỗi này chỉ chiếm khoảng 2% số câu ở tập anh đo. Nên anh chưa dám gọi neuron 128 là "công tắc ngôn ngữ" của model — chỉ có thể nói nó có vai trò thật trong lỗi này.
Sự thận trọng này là điểm khác biệt giữa một thí nghiệm nghiêm túc và một tuyên bố giật gân: một neuron có vai trò thật trong một lỗi cụ thể, trên một tập kiểm tra nhỏ, chưa đủ để kết luận nó là công tắc điều khiển toàn bộ hành vi chọn ngôn ngữ của model. Bài đăng để ngỏ việc kiểm chứng thêm trên tập test lớn hơn.
Câu hỏi thường gặp
1. Qwen3-ASR-0.6B là model gì? Theo bài đăng, đó là model nhận dạng giọng nói mã nguồn mở của team Qwen, khoảng 0,8 tỉ tham số, hỗ trợ 30 ngôn ngữ trong đó có tiếng Việt, nhỏ và chạy được trên máy cá nhân.
2. Lỗi chữ Thái xảy ra như thế nào? Model nghe audio "xin chào gia đình Tanaka" và trả về chữ Thái đọc lên gần đúng âm tiếng Việt. Theo tác giả, model nghe được khá nhiều âm nhưng chọn nhầm bảng chữ cái, vì nó sinh thẻ ngôn ngữ trước rồi mới chép lời — thẻ sai thì cả câu đi theo.
3. Bug và gap khác nhau ra sao theo cách hiểu của tác giả? Gap là model chưa học tới, phải thêm data và train. Bug là model đã biết đáp án nhưng có thứ gì đó chặn lại, nên có thể sửa thẳng vào bên trong. Bằng chứng lỗi chữ Thái là bug: ở 12/18 vị trí kiểm tra, từ đúng đã lọt top-10 ở các layer giữa.
4. Hook ức chế neuron 128 hiệu quả tới mức nào? Theo bài đăng, hook sửa được 8/8 câu lỗi, không làm hỏng câu nào trong 8 câu sạch, và WER trên tập thử giảm gần 4% số lỗi. Hướng ngẫu nhiên cùng layer để đối chứng chỉ sửa được trung bình 1,6/8 và làm hỏng 2,2/8.
5. Vì sao không sửa thẳng vào weight của neuron? Vì weight tác động ở mọi bước, kể cả khi model chép lời bình thường. Theo bài đăng, xóa cột của neuron sửa được 0/8, còn cách bias tuy sửa được lỗi nhưng phá 20/207 câu đang đúng và làm WER tăng lên. Hook thì chỉ can thiệp đúng lúc quyết định ngôn ngữ.
Nguồn: bài đăng của Nam Nam trong nhóm Machine Learning Cơ Bản (18/11/2026). Các thí nghiệm, số liệu và nhận định trong bài là của tác giả bài đăng, chưa được Wotech kiểm chứng độc lập.
Bài viết liên quan

18 tháng 11, 2026 · 9 phut doc
Chủ tịch FPT Software: khách hàng Mỹ không còn muốn trả theo giờ, công ty chuyển sang tính phí theo kết quả
Trí tuệ nhân tạo đang buộc FPT Software chuyển đổi mô hình gia công phần mềm truyền thống: các khách hàng lớn tại Mỹ hiện áp dụng mô hình thanh toán 100% dựa trên kết quả đầu ra, và công ty dự kiến t…

18 tháng 11, 2026 · 8 phut doc
Meta mở rộng Muse sang Úc: quốc gia thứ 6, Voice thời gian thực và tích hợp ứng dụng địa phương
Ngày 17/11/2026, Meta tiếp tục mở rộng Muse sang thị trường Úc — quốc gia thứ 6 được hỗ trợ chính thức, chỉ hơn 2 tháng sau khi ra mắt tại Mỹ. Theo bài đăng của Hồ Hoàng Tiến (18/11/2026), điểm đáng …

18 tháng 11, 2026 · 8 phut doc
Chi phí AI agent tăng theo bình phương số bước: 4 tầng cắt tiền token trước khi đổi model rẻ hơn
Bạn không trả tiền cho câu trả lời — bạn trả cho số lần bạn hỏi lại cùng một thứ. Đó là luận điểm trung tâm của Hoang Viet AI trong bài đăng tại nhóm comailo (18/11/2026): một agent chạy 40 bước, mỗi…