Tốc độ đọc của AI: hai model cùng giá chênh nhau 2,03 lần token mỗi giây

Tốc độ đọc của AI ở đây là số token model phát ra mỗi giây. Sáu model trải từ 71,23 token/giây xuống 35,03 token/giây, và ca đáng chú ý nhất là hai bản DeepSeek: cùng 3,456 đồng một lượt, chênh 2,03 lần tốc độ.

Thông lượng sáu model trải từ 71,23 token/giây đến 35,03 token/giây

Xếp theo thông lượng giảm dần, sáu model đo được đứng thế này: DeepSeek V4.1 Flash 1017 ở 71,23 token/giây, Claude Opus 5.5 ở 48,91 token/giây, Claude Sonnet 5.5 ở 44,76 token/giây, Gemini 3.8 Flash ở 42,57 token/giây, GPT 6.1 SOL ở 35,54 token/giây và DeepSeek V4.1 Flash ở 35,03 token/giây.

Số liệu đo tại gateway của Wisa, cửa sổ 7 ngày kết thúc 27/10/2026, và mỗi hàng cần ít nhất 20 mẫu mới được công bố. Đơn vị này không đo lúc bắt đầu: nó lấy số token đầu ra chia cho thời gian hoàn tất của chính yêu cầu đó, nên phần chờ trước khi chữ đầu hiện ra nằm trong mẫu số. Một model khởi động chậm vẫn có thể đạt thông lượng cao nếu nó viết dài.

Đọc theo chiều ngược lại cũng đúng: một model viết ngắn mà khởi động nhanh có thể có thông lượng thấp hơn, dù người dùng thấy nó phản hồi sớm hơn. Vì vậy đừng dùng một cột duy nhất để trả lời cả câu "model viết nhanh đến đâu" và câu "tôi phải chờ bao lâu".

Con số 71,23 token/giây cũng không phải một hằng số gắn với model. Nó là kết quả tổng hợp trên lưu lượng thật của cửa sổ đó, nên khi tỉ lệ prompt dài tăng lên, cùng một model sẽ cho thông lượng thấp hơn. Muốn so hai model, hãy so trong cùng một cửa sổ và cùng một kiểu prompt; đem số của tháng này so với số của tháng trước là so hai điều kiện khác nhau.

Hai bản DeepSeek cùng 3,456 đồng một lượt, chênh 2,03 lần tốc độ

Hai bản DeepSeek V4.1 Flash và DeepSeek V4.1 Flash 1017 nằm cùng tầng Economy và dùng chung một bảng giá: 720đ cho mỗi triệu token vào, 2.880đ cho mỗi triệu token ra, 72đ cho mỗi triệu token đọc từ cache và 0đ cho ghi cache. Một lượt chuẩn 2.000 token vào cộng 700 token ra tốn 3,456 đồng ở cả hai bản, không lệch một đồng.

Thứ duy nhất lệch là tốc độ: 71,23 token/giây so với 35,03 token/giây, tức 2,03 lần. Trên 4.660 mẫu và 213 mẫu, khoảng cách đó không phải nhiễu đo.

Độ trễ trung vị của hai bản cũng lệch, nhưng lệch ít hơn: p50 là 7.998 ms ở bản 1017 và 11.581 ms ở bản gốc, tức 1,45 lần. Đọc cặp số này cẩn thận, vì số token ra trung vị của bản 1017 là 688 còn của bản gốc là 396: bản 1017 vừa viết dài hơn vừa xong sớm hơn, nên nếu chỉ so p50 bạn sẽ không thấy hết phần chênh.

Vì sao chia token trung vị cho token mỗi giây vẫn không khớp p50?

Phép chia mới là phép đúng thứ nguyên: 688 token trung vị của bản 1017 ÷ 71,23 token/giây ≈ 9,66 giây. Nhưng kết quả đó vẫn không khớp p50 là 7.998 ms của chính bản đó, vì hai con số đến từ hai phép tổng hợp khác nhau. Thông lượng là một tỉ lệ được tính trên từng yêu cầu rồi tổng hợp lại, còn số token trung vị là trung vị của riêng tử số; tỉ lệ của trung vị không bằng trung vị của tỉ lệ, nên thương của chúng không phải p50.

Lý do thứ hai nằm ở mẫu số của thông lượng: nó là thời gian hoàn tất, gồm cả phần chờ trước khi chữ đầu hiện ra, nên 71,23 token/giây không phải tốc độ phát chữ thuần. Phần chờ đó thay đổi theo từng yêu cầu, và phép chia không biết nó dài bao nhiêu. Vì vậy 9,66 giây chỉ là một mốc tham chiếu, không phải thời lượng của mẫu nào trong 4.660 mẫu đã đo; đọc nó như một con số chắc chắn là nghiêng về phía đặt ngưỡng timeout sai.

Muốn có thời lượng, hãy đọc trực tiếp phân vị độ trễ ở độ trễ model AI. Thông lượng trả lời câu "model viết nhanh đến đâu"; phân vị trả lời câu "một yêu cầu mất bao lâu". Hai câu khác nhau nên cần hai cột khác nhau, và một bảng chỉ có một trong hai cột thì chưa đủ để chọn.

Bảng thông lượng kèm phân vị và số mẫu

Model	n	token/giây	p50
DeepSeek V4.1 Flash 1017	4.660	71,23 token/giây	7.998 ms
Claude Opus 5.5	271	48,91 token/giây	15.168 ms
Claude Sonnet 5.5	48	44,76 token/giây	10.029 ms
Gemini 3.8 Flash	6.051	42,57 token/giây	10.181 ms
GPT 6.1 SOL	214	35,54 token/giây	26.226 ms
DeepSeek V4.1 Flash	213	35,03 token/giây	11.581 ms

Hai cột cuối không xếp cùng thứ tự. Claude Opus 5.5 đứng thứ hai về thông lượng nhưng thứ năm về p50; Gemini 3.8 Flash đứng thứ tư về thông lượng nhưng thứ ba về p50. Số mẫu giải thích một phần: hàng Claude Sonnet 5.5 chỉ có 48 mẫu, hàng Gemini 3.8 Flash có 6.051 mẫu, nên độ tin của hai hàng không ngang nhau.

Đọc bảng này theo hai bước. Bước một là kiểm tra cột n: hàng nào có ít mẫu thì chỉ nên dùng để tham khảo, vì một vài yêu cầu dài bất thường có thể kéo thông lượng trung bình xuống. Bước hai là so thông lượng giữa các hàng có n tương đương nhau trước, rồi mới mở rộng sang các hàng còn lại.

Chọn theo thông lượng khi nào thì sai

Thông lượng cao chỉ đáng trả tiền khi nút thắt của bạn là thời gian model viết. Nếu đầu ra dài và người dùng đọc cuộn dần, mỗi token mỗi giây tăng thêm đều có nghĩa với người đọc. Nếu đầu ra của bạn ngắn, phần chờ cố định chiếm tỉ trọng lớn hơn và p50 mô tả trải nghiệm sát hơn.

Cũng đừng đọc bảng này như bảng giá. Hai bản DeepSeek là ví dụ rõ nhất: cùng 3,456 đồng một lượt mà chênh 2,03 lần tốc độ. Ở chiều ngược lại, Claude Opus 5.5 đạt 48,91 token/giây, cao hơn Gemini 3.8 Flash ở 42,57 token/giây, nhưng một lượt của nó tốn 26,40 đồng so với 4,95 đồng. Nhanh hơn không có nghĩa là rẻ hơn.

Nếu bạn đang chọn giữa hai bản DeepSeek cho cùng một việc, thử bản 1017 trước vì nó cùng giá mà nhanh hơn. Nếu bạn đã có một tập kết quả chạy trên bản gốc và cần so sánh với chính tập đó, đổi model sẽ làm lệch phép so, nên hãy chốt lại tập đánh giá trước khi đổi.

Ngược lại, nếu bạn chạy tác vụ nền và không ai ngồi chờ, thông lượng thấp không phải vấn đề miễn là tổng thời gian vẫn nằm trong cửa sổ chạy. Khi đó tiêu chí chọn là chi phí một lượt và tỉ lệ lỗi, không phải token mỗi giây.

Phần định nghĩa họ DeepSeek, gồm ba model nằm ở hai tầng giá, được trình bày ở DeepSeek là gì.

Giới hạn của bài này

Bài này không nói model nào tốt nhất. Thông lượng đo trên lưu lượng thật của một gateway, với độ dài prompt và độ dài đầu ra của người dùng ở đó, nên nó không hứa gì về lưu lượng của bạn. Prompt dài gấp ba có thể kéo thông lượng xuống rõ rệt, và lúc đó bảng trên chỉ còn là mốc tham chiếu.

Phạm vi cũng hẹp: 6 trong 46 model của danh mục có đủ mẫu để công bố, 40 model còn lại thì không. Im lặng ở cột thông lượng không có nghĩa là model chậm. Cách đọc số mẫu và phân vị nằm ở benchmark model AI, khái niệm nền nằm ở inference là gì, và danh sách model đầy đủ nằm trong chuyên mục chọn và so sánh model.