Vì sao Claude Code, Codex chạy lâu bị "ngáo"?

Bạn giao cho Claude Code hay Codex một việc khá lớn: viết tính năng mới, sửa bug, chạy test. Vài phút đầu mọi thứ suôn sẻ. Rồi bot bắt đầu "lơ đãng": hỏi lại những điều nó vừa làm, sửa đi sửa lại một chỗ, bịa ra hàm không tồn tại, thậm chí đè nát đoạn code cũ vẫn chạy tốt. Hiện tượng "ngáo" này không phải lỗi ngẫu nhiên — nó có nguyên nhân kỹ thuật rõ ràng, và hiểu đúng nguyên nhân sẽ thay đổi cách doanh nghiệp nhìn về hạ tầng AI của mình.

Chuyện quen thuộc của người dùng AI viết code

Tình huống này rất phổ biến với ai đã dùng các công cụ AI code agent như Claude Code hay Codex. Bot vừa gõ code vừa sửa bug được một lúc, rồi đột nhiên: tràn Context Window, "ngốn" một lượng lớn token, và kết cục là ảo giác (hallucination) hoặc phá nát code cũ.

Nhiều người đổ lỗi cho "model dở". Nhưng thực tế, model chỉ là một bộ phận trong hệ thống. Phần thường bị bỏ qua — và lại chính là thứ quyết định trải nghiệm — đó là harness (lớp điều phối).

Context Window: bộ nhớ làm việc hữu hạn

Context Window (cửa sổ ngữ cảnh) là lượng văn bản tối đa mà mô hình ngôn ngữ lớn (LLM — Large Language Model) có thể "nhìn thấy" trong một lần xử lý, đo bằng token — đơn vị nhỏ mà hệ thống cắt chữ thành số.

Điểm mấu chốt: LLM không có trí nhớ dài hạn tự nhiên. Mỗi lần trả lời, toàn bộ lịch sử phiên làm việc — prompt đầu tiên, nội dung các file đã đọc, kết quả lệnh, log lỗi, diff code — đều phải được đóng gói lại gửi cho model. Phiên càng dài, "bộ nhớ làm việc" càng phình to. Một agent chạy tự do trong 5 phút có thể đã đọc hàng loạt file, chạy hàng loạt lệnh, và mỗi bước lại chất thêm ngữ cảnh mới.

Khi chất đống chạm giới hạn, hệ thống buộc phải cắt bớt hoặc tóm tắt nội dung cũ để nhường chỗ. Và điều bị "tóm tắt mất" đầu tiên thường lại là những chỉ dẫn quan trọng nằm ở đầu phiên: quy ước code, ràng buộc nghiệp vụ, lời dặn "đừng đụng vào module X". Mất dấu mốc đó, model bắt đầu ảo giác — sinh ra nội dung nghe rất hợp lý nhưng sai — hoặc làm lại việc cũ, đè lên code tốt.

Nói cách khác: bot không "điên". Nó chỉ bị buộc làm việc trong màn sương mù ngày càng dày đặc.

Harness: "hệ thần kinh" mà model đang thiếu

Cần nhớ một sự thật nền tảng: model chỉ biết sinh chữ. Muốn làm việc lớn — đọc repo, chạy lệnh, sửa nhiều file, kiểm tra kết quả — phải có một lớp điều phối đứng giữa model và máy tính của bạn. Lớp đó chính là harness, người trong ngành còn ví như "hệ thần kinh trung ương" của toàn bộ hệ AI agent.

Một harness tốt đảm nhận những việc mà model tự thân không bao giờ làm được:

• Quản lý ngữ cảnh: quyết định thông tin nào giữ, nào nén, nào bỏ, để Context Window không bị tràn.
• Phân rã công việc: chia task lớn thành các bước nhỏ, mỗi bước chạy trong một ngữ cảnh gọn gàng.
• Cấp phát công cụ: cho model quyền đọc file, chạy terminal, truy vấn database — một cách có kiểm soát.
• Kiểm soát chi phí: theo dõi lượng token đã tiêu, cảnh báo và chặn khi vượt ngân sách.
• Ghi nhớ dài hạn: lưu bài học giữa các phiên, không phải nhắc lại mọi thứ từ đầu mỗi lần chạy.

Thiếu harness tốt, model giỏi đến mấy cũng như một nhân viên tài năng mà không có quy trình, không có công cụ, không có sổ tay việc đã làm: tài năng không thể phát huy được.

RuFlo: harness mã nguồn mở đạt hơn 75.400 stars

Trong số các dự án harness mã nguồn mở, RuFlo (repo ruvnet/ruflo trên GitHub) đang thu hút sự chú ý lớn khi cán mốc hơn 75.400 stars. Bốn tính năng đáng chú ý nhất của RuFlo:

• Swarm Intelligence (trí tuệ bầy đàn): tự động chia nhỏ công việc cho hơn 100 bot chuyên gia chuyên biệt, thay vì dồn toàn bộ việc vào một agent đơn. Mỗi bot có ngữ cảnh riêng — gọn, sạch và khó tràn hơn hẳn.
• RuVector Memory (bộ nhớ dài hạn): tự học từ các lỗi sai trong quá trình làm việc và ghi lại thành kinh nghiệm. Đáng chú ý, việc truy xuất lại trí nhớ này hoàn toàn không tốn token gọi lại LLM — tức chi phí bằng 0% so với cách nhét lại toàn bộ lịch sử vào prompt.
• Enterprise Federation (liên kết doanh nghiệp): kết nối an toàn nhiều máy tính với nhau thành một cụm làm việc, phù hợp các yêu cầu bảo mật dữ liệu nội bộ.
• TUI Console (bảng điều khiển giao diện dòng lệnh): theo dõi chi phí và tiến độ theo thời gian thực — thứ mà bất kỳ đội kỹ thuật nào vận hành AI nghiêm túc đều cần.

Việc cài đặt chỉ mất một dòng lệnh: npx ruflo@latest init wizard. Dự án phát hành dưới giấy phép MIT — giấy phép mã nguồn mở thông thoáng, cho phép sử dụng miễn phí kể cả cho mục đích thương mại, không ràng buộc pháp lý về sau.

Như vậy, nguyên nhân bot "ngáo" nằm ở bộ nhớ ngữ cảnh hữu hạn; còn lời giải nằm ở lớp harness biết chia việc, nén ngữ cảnh và tích lũy bài học.

Góc nhìn cho doanh nghiệp Việt Nam

Với doanh nghiệp đang đưa AI vào quy trình kỹ thuật, vài bài học đáng ghi nhận:

• Đừng đánh giá AI code agent chỉ qua tên model. Cùng một model, harness khác nhau cho ra năng suất khác nhau. Câu hỏi đúng phải là: hệ điều phối quản lý ngữ cảnh, phân quyền và chi phí như thế nào?
• Kiểm soát chi phí token ngay từ đầu. Một agent chạy tự do có thể "ngốn" token rất nhanh mà bạn không hề hay biết. Bảng theo dõi chi phí thời gian thực không phải thứ xa xỉ.
• Ưu tiên khả năng tự chủ dữ liệu. Với dữ liệu nhạy cảm, khả năng tự triển khai trên hạ tầng nội bộ và liên kết an toàn giữa các máy — đúng hướng thiết kế của RuFlo — nên được cân nhắc trước khi đưa dữ liệu ra dịch vụ bên ngoài.
• Chọn giải pháp có giấy phép rõ ràng. Một dự án mã nguồn mở với giấy phép MIT giúp đội kỹ thuật yên tâm tích hợp vào sản phẩm thương mại.

Kết luận

AI code agent "ngáo" sau vài phút làm việc dài không phải là dấu hiệu công nghệ chưa trưởng thành, mà là hệ quả tất yếu của bộ nhớ ngữ cảnh hữu hạn — và nó đã có sẵn lời giải ở tầng kiến trúc: một harness biết phân rã công việc, quản lý ngữ cảnh, tích lũy trí nhớ dài hạn và kiểm soát chi phí. Doanh nghiệp hiểu được điều này sẽ đầu tư đúng chỗ: không chỉ mua model, mà xây dựng cả hệ điều phối quanh nó.

Nguồn: tổng hợp từ chia sẻ kỹ thuật trên Facebook (VGU Tech Alumni), biên tập bởi Wotech Electronics.

Doanh nghiệp của bạn đang cần tư vấn xây dựng hạ tầng vận hành AI agent an toàn, tiết kiệm chi phí? Liên hệ Wotech để được khảo sát và đề xuất giải pháp phù hợp.