Tencent Hy3 chính thức: 295B MoE đạt tầm flagship với chi phí thấp hơn

TL;DR

• Tencent Hy3 là model MoE 295B tham số, chỉ kích hoạt 21B active params mỗi token - tiết kiệm tài nguyên gấp nhiều lần so với dense model cùng hạng.
• Apache 2.0 - dùng thương mại tự do, weights tải miễn phí trên HuggingFace và ModelScope.
• Cải tiến lớn nhất so với Hy3 preview: hallucination rate 12.5% → 5.4%, multi-turn intent tracking 17.4% → 7.9%, MRCR benchmark 42.9% → 75.1%.
• GPQA Diamond 90.4 | SWE-Bench Verified 78.0 | BrowseComp 84.2 | HLE (với tools) 53.2.
• Free API trên OpenRouter (tencent/hy3:free) đến 21/7/2026. Sau đó dùng Tencent Cloud TokenHub hoặc self-host.

Từ preview đến chính thức: điều gì thay đổi?

Hy3 preview ra mắt tháng 4 và được thị trường đón nhận tốt - daily token consumption tăng 20 lần trong thời gian ngắn, số người dùng WorkBuddy chọn model tăng 6 lần. Đó là tín hiệu tốt, nhưng cũng đi kèm với hàng đống feedback thực tế từ hơn 50 product team nội bộ Tencent.

Feedback không phải về benchmark - mà về hành vi trong production: tool call gây vòng lặp vô hạn, agent tự crash giữa chừng, multi-turn dialogue mất context sau vài lượt, hallucination xuất hiện ở những chỗ nhạy cảm. Đây là những lỗi không thể phát hiện qua bất kỳ benchmark chuẩn nào.

Phiên bản chính thức tập trung giải quyết chính xác những vấn đề đó thông qua scaled-up RL training, dữ liệu post-training chất lượng cao hơn, và data diversity đa dạng hơn. Thay vì đuổi theo điểm số tổng quát, nhóm Tencent Hy ưu tiên độ tin cậy trong production - thứ mà benchmark không đo được nhưng người dùng thực cảm nhận rõ ràng nhất.

Kiến trúc bên dưới: tại sao 295B mà vẫn rẻ?

Hy3 dùng kiến trúc Mixture-of-Experts (MoE) với 192 experts, nhưng mỗi token chỉ kích hoạt top-8. Nghĩa là dù model có 295B tham số, chi phí tính toán thực tế gần bằng một dense model 21B - giải thích vì sao model có thể chạy hiệu quả hơn nhiều so với các đối thủ cùng class mà không cần phần cứng khổng lồ tương ứng.

Ngoài MoE, Hy3 tích hợp lớp Multi-Token Prediction (MTP) 3.8B tham số. Thay vì predict từng token một theo kiểu autoregressive truyền thống, MTP dự đoán nhiều token song song, cho phép speculative decoding qua vLLM hoặc SGLang - tức là decode nhanh hơn đáng kể mà không đánh đổi chất lượng output.

Context window 256K token hoàn thiện bức tranh: đủ để nhét cả một codebase vừa, một hợp đồng dài 200 trang, hoặc chuỗi hội thoại kéo dài nhiều ngày mà không bị cắt xén. Đây là điều kiện tiên quyết cho các agentic workflow phức tạp.

Specs kỹ thuật đầy đủ: 80 lớp transformer (không tính MTP), GQA với 64 attention heads (8 KV heads, head dim 128), hidden size 4096, intermediate size 13312, vocab size 120832, hỗ trợ BF16.

Ba vấn đề production đã được xử lý

Đây là phần đáng chú ý nhất của bản phát hành này, vì Tencent công bố số liệu cụ thể thay vì chỉ nói chung chung:

Tool calling ổn định

Hy3 preview hay gây vòng lặp vô hạn khi tool call thất bại - agent cứ retry mãi không thoát. Phiên bản chính thức đã fix các lỗi baseline này, đưa model lên tiêu chuẩn production. Trên SWE-Bench Verified, độ chênh lệch accuracy giữa các scaffolding khác nhau - CodeBuddy, Cline, KiloCode - chỉ còn trong phạm vi 4%, nghĩa là model không quá phụ thuộc vào cách agent được setup.

Chống hallucination có số liệu đo được

Triết lý huấn luyện được Tencent đặt ra rõ ràng: "Trả lời khi có bằng chứng, nói thiếu khi chứng cứ không đủ, không nhầm lẫn nguồn, không bịa dữ liệu." Kết quả đo trong môi trường thực tế nội bộ:

• Hallucination rate: 12.5% → 5.4%
• Commonsense error rate: 25.4% → 12.7%

Tác động thực tế: model xử lý hợp đồng pháp lý ít bịa điều khoản hơn, phân tích tài chính ít đoán số liệu hơn, customer service bot ít tự ý chế thông tin hơn.

Multi-turn intent tracking

Hội thoại dài nhiều lượt thường bị mất context - model quên ràng buộc từ đầu câu chuyện hoặc nhầm đại từ khi user đổi topic. Hy3 xử lý qua joint optimization của SFT và RL, cải thiện coreference resolution và ellipsis recovery:

• Internal issue rate: 17.4% → 7.9%
• MRCR long-dialogue benchmark: 42.9% → 75.1%

Benchmark

STEM & Reasoning:

• GPQA Diamond: 90.4
• IMOAnswerBench: 90.0
• USAMO 2026: 72.0
• HLE (with tools): 53.2

Coding & Agent:

• SWE-Bench Verified: 78.0
• SWE-Bench Multilingual: 75.8
• Terminal-Bench 2.1: 71.7
• BrowseComp: 84.2
• MCP Atlas (public): 79.1

So sánh quan trọng nhất là với GLM-5.2 - model của Zhipu AI với ~744B tổng params, ~40B active. GLM-5.2 dẫn trước Hy3 trên toàn bộ coding suite (SWE-Verified: 84.2 vs 78.0, Terminal-Bench: 81.0 vs 71.7), nhưng cần active params gấp đôi và phần cứng nặng hơn nhiều. Nếu bạn tự host và trả tiền GPU theo giờ, gap hiệu năng nhỏ đó đổi lại bằng chi phí infrastructure lớn hơn đáng kể.

Tencent cũng tổ chức blind test với 270 chuyên gia, 312 comparison trên workflow thực tế - một cách đánh giá bổ sung cho benchmark chuẩn. Hy3 đạt 2.67/4, vượt GLM-5.1 (2.51/4). Ưu thế rõ nhất ở frontend development, CI/CD, và data & storage.

Tích hợp sản phẩm thực tế

Hy3 đã chạy trên nhiều sản phẩm Tencent trước khi ra mắt chính thức - đây là lợi thế của một big tech có hệ sinh thái đủ rộng để test ở quy mô thực:

• Yuanbao - AI assistant của Tencent nay có chức năng agent đầy đủ, tạo được PowerPoint, Word, Excel, PDF qua hội thoại tự nhiên.
• Marvis - OS-level agent xử lý file, diagnostics máy tính, task execution, và multi-agent collaboration ổn định hơn.
• WorkBuddy/CodeBuddy - dùng trong automated script generation và workflow orchestration cho doanh nghiệp.
• ima - knowledge-base Q&A với structured reasoning và long-form writing.
• WeChat customer service - chatbot hiểu ý người dùng vague, không cần câu hỏi đầy đủ, bỏ templated replies cứng nhắc.
• Path of Exile game assistant - AI trong game WeGame trả lời chính xác hơn, ít hallucinate thông tin game.

Ai nên dùng ngay?

Coding agent builder: Nếu đang build agent với Cline, KiloCode, hay CodeBuddy, Hy3 là lựa chọn đáng test ngay. Tool call ổn, context 256K nhét được cả repo, scaffolding variance thấp - nghĩa là agent hoạt động nhất quán dù bạn đổi framework.

Enterprise xử lý tài liệu dài: Hợp đồng, báo cáo tài chính, hồ sơ pháp lý - đây là nơi anti-hallucination và context retention của Hy3 phát huy tốt nhất. Model được huấn luyện để flag khi thiếu thông tin thay vì đoán mò.

Startup muốn model mạnh, chi phí thấp: Apache 2.0 có nghĩa là dùng được cho bất kỳ mục đích thương mại nào. Với 21B active params, serving cost thấp hơn đáng kể so với dense model cùng hiệu năng.

Researcher STEM: GPQA Diamond 90.4 và IMOAnswerBench 90.0 cho thấy khả năng lý luận nghiêm túc. Toán thuần (MathArena Apex 38.7) vẫn là điểm yếu so với các model chuyên biệt - cần lưu ý khi chọn use case.

Giá và cách thử

Free trial nhanh nhất: OpenRouter - tạo account, dùng endpoint tencent/hy3:free với $0/token đến 21/7/2026. API tương thích OpenAI, chỉ cần đổi base URL là chạy được với code hiện tại.

Self-host: Weights tải trên HuggingFace (tencent/Hy3) hoặc ModelScope. Full model BF16 nặng 598GB - cần 8 GPU H20-3e hoặc tương đương. Phiên bản Hy3-FP8 chỉ 300GB, footprint nhỏ hơn đáng kể và vẫn giữ được phần lớn chất lượng. Deploy qua vLLM hoặc SGLang với MTP enabled để tận dụng tốc độ decode. Tencent recommend temperature=0.9, top_p=1.0, và dùng reasoning_effort="high" cho toán/code.

Tencent Cloud TokenHub: ~1 CNY/triệu input token, ~4 CNY/triệu output token, 0.25 CNY/triệu cache-hit input - rẻ hơn đáng kể so với các closed model tier cao.

Compression: Tencent cung cấp toolkit AngelSlim hỗ trợ quantization, low-bit methods, và speculative sampling để tối ưu thêm cho môi trường tài nguyên giới hạn.

Kết

Hy3 không phải model mạnh nhất trên mọi benchmark - toán thuần MathArena Apex vẫn thua xa GPT-5.5 (38.7 vs 85.4), coding suite thua GLM-5.2 vốn to hơn gấp đôi. Nhưng đó không phải mục tiêu thiết kế.

Điểm đáng chú ý nhất là sự kết hợp giữa hiệu quả tài nguyên và reliability production: 21B active params trên backbone 295B, Apache 2.0, và những cải thiện về tool calling, hallucination, multi-turn tracking được đo bằng số liệu cụ thể thay vì tuyên bố chung chung. Đó là mức độ minh bạch ít thấy trong các release AI.

Tencent hoàn thành vòng phát triển đầy đủ - rebuild hạ tầng từ đầu, ship preview, lấy feedback từ hàng triệu người dùng thực, rồi ra bản chính thức - trong dưới 6 tháng. Với developer và startup đang tìm model mạnh mà không phải trả chi phí inference của flagship closed model, Hy3 là lựa chọn đáng thử nghiêm túc.

via HuggingFace - tencent/Hy3