Khi nào đổi model AI: thử nâng mức effort trước khi đổi model

Đổi mức effort trước, đổi model sau. Một lượt GPT-6 Sol ở 700 token ra tốn 13,20 đồng; khi token ra gấp đôi thành 1.400 thì lượt đó là 21,60 đồng, vẫn dưới 132 đồng, mức cao nhất trong 13 model Premium.

Bảy mức effort, và mức cao hơn tiêu thêm token ra

Reasoning Effort Control có đúng bảy mức: Off, Minimal, Low, Medium, High, Extra High, Max. Mức cao hơn khiến model tiêu nhiều công suất suy luận hơn, và phần công suất đó hiện ra dưới dạng token ra nhiều hơn.

Không có bảng quy đổi từ tên mức sang số token. Cùng một mức, một câu hỏi ngắn và một câu hỏi nhiều bước vẫn cho số token ra khác nhau, nên đừng đặt ngưỡng chi phí theo tên mức. Cách làm chắc hơn là đọc Usage Metrics của lượt trước, xem số token ra thật, rồi nâng một mức và đo lại.

Mức effort cũng không bảo đảm câu trả lời đúng hơn. Nó chỉ đổi lượng công suất model được phép dùng trước khi trả lời. Với câu hỏi mà model đã hiểu sai đề, nâng lên Max chỉ làm câu trả lời sai dài hơn. Khái niệm nền nằm ở reasoning model là gì.

Một lượt GPT-6 Sol: 13,20 đồng ở 700 token ra, 21,60 đồng ở 1.400

GPT-6 Sol có giá vào 2.400đ và giá ra 12.000đ cho một triệu token. Lượt chuẩn 2.000 token vào và 700 token ra chia thành hai phần: 2.000 × 2.400 ÷ 1.000.000 = 4,80 đồng cho phần vào, 700 × 12.000 ÷ 1.000.000 = 8,40 đồng cho phần ra, cộng lại 13,20 đồng.

Nâng effort không đổi phần vào vì prompt không đổi. Nó đổi phần ra. Nếu token ra thành 1.400, phần ra là 1.400 × 12.000 ÷ 1.000.000 = 16,80 đồng, cộng 4,80 đồng thành 21,60 đồng. Gấp đôi token ra đưa một lượt từ 13,20 đồng lên 21,60 đồng, tức 21,60 ÷ 13,20 = 1,64 lần.

Con số 21,60 đồng vẫn nằm dưới trần của tầng Premium là 132 đồng, và cách trần đó 132 ÷ 21,60 = 6,11 lần; nhưng nó đã cao hơn sàn 19,80 đồng của chính tầng đó, tức 21,60 ÷ 19,80 = 1,09 lần so với model Premium rẻ nhất. Đó là toàn bộ lý do nên thử effort trước: bạn mua thêm công suất suy luận bằng cột giá ra của chính model mình đã chọn, chứ không mua thêm một cột giá vào mới.

Balanced 3,72 đến 14,88 đồng, Premium 19,80 đến 132 đồng

Ba tầng giá của 41 model chat có giá vào lớn hơn 0 tách nhau ở mức sàn và mức trần. Bảng dưới tính cho lượt chuẩn 2.000 token vào và 700 token ra.

Tầng	Số model chat có giá vào lớn hơn 0	Một lượt thấp nhất	Một lượt cao nhất
Economy	10	0,27 đồng	3,456 đồng
Balanced	18	3,72 đồng	14,88 đồng
Premium	13	19,80 đồng	132 đồng

Sàn Balanced 3,72 đồng cao hơn sàn Economy 0,27 đồng: 3,72 ÷ 0,27 = 13,78 lần. Sàn Premium 19,80 đồng chỉ cao hơn trần Balanced 14,88 đồng 1,33 lần, vì 19,80 ÷ 14,88 = 1,33 lần. Bên trong Premium, khoảng cách giữa hai đầu là 132 ÷ 19,80 = 6,67 lần.

Bước nhảy từ Balanced sang Premium vì thế không đều. Từ sàn Balanced 3,72 đồng sang sàn Premium 19,80 đồng là 19,80 ÷ 3,72 = 5,32 lần. Từ trần Balanced 14,88 đồng sang cùng mức sàn đó chỉ là 19,80 ÷ 14,88 = 1,33 lần. Nếu model bạn đang dùng đã gần trần Balanced, phần đắt thêm của một bước lên Premium nhỏ hơn nhiều so với khi bạn đang ở sàn.

Với 1 CUBE = 1.000đ, một lượt 132 đồng là 0,132 CUBE, còn một lượt 21,60 đồng là 0,0216 CUBE. Đổi sang số tuyệt đối cho dễ hình dung: 1.000 lượt ở mức 21,60 đồng tốn 21.600 đồng, tức 21,6 CUBE.

Làm sao biết một lượt đã bị đổi model?

Execution Trace ghi lại từng lượt: định tuyến yêu cầu, model được chọn, độ trễ phía trên, tốc độ sinh token và phần CUBE quyết toán. Dòng chọn model là chỗ trả lời câu hỏi này. Nếu nó ghi một model khác model bạn đặt, lượt đó đã được phục vụ bởi model khác.

Usage Metrics bổ sung phần mà Execution Trace không nói: số token vào, token ra, token đọc từ cache và CUBE bị tính của riêng lượt đó. Khi bạn nâng effort mà model không đổi, số token vào giữ nguyên và token ra là phần thay đổi. Khi model bị đổi, bạn thường thấy cả tốc độ sinh token đổi, vì mỗi model có một tốc độ khác nhau.

Reasoning Cards hiện phần suy luận trước câu trả lời. Đây là chỗ đối chiếu xem lượt sau có phần suy luận dài hơn lượt trước hay không, trước khi bạn kết luận rằng mức mới đã có tác dụng.

Khi nào nâng effort không còn đủ

Nâng effort chỉ mua thêm công suất suy luận trên cùng một model. Nó không đổi họ model, không mở rộng ngữ cảnh, và không sửa một prompt sai. Ba trường hợp sau là lúc đổi model mới là bước đúng.

Trường hợp thứ nhất: việc của bạn cần một họ model khác. Nếu bài toán là chứng minh nhiều bước và bạn đang cân nhắc giữa một model thiên về suy luận với một model thiên về viết, hãy so hai model trên cùng một đề trước khi nâng mức, như cách Gemini hay ChatGPT giải toán tốt hơn đặt hai model cạnh nhau.

Trường hợp thứ hai: tài liệu của bạn dài hơn ngữ cảnh model nhận. Nâng effort không làm ngữ cảnh rộng ra, nên tài liệu bị cắt vẫn bị cắt ở mức Max.

Trường hợp thứ ba: cam kết về thời gian. Nếu bạn đã hứa với người dùng một ngưỡng hoàn tất, nâng effort làm token ra nhiều hơn và lượt dài hơn, nên đây là lúc đọc đuôi độ trễ thay vì đọc giá. Cách đặt ngưỡng theo đuôi nằm ở khi nào nên đổi model.

Giới hạn của lời khuyên này

Nâng effort không sửa được hai lỗi: chọn sai họ model cho công việc, và ngữ cảnh quá nhỏ so với tài liệu. Với hai lỗi đó, đổi model là bước đầu tiên chứ không phải bước cuối.

Mức effort cao hơn làm số token ra tăng, và chi phí đi theo token ra. Vì thế 21,60 đồng là ví dụ cho một lượt có 1.400 token ra, không phải giá cố định của mọi lượt nâng effort. Nếu câu trả lời của bạn ngắn, phần tăng sẽ nhỏ hơn nhiều.

Các mức 0,27 đồng đến 132 đồng là giá niêm yết cho lượt 2.000 token vào và 700 token ra, không phải hoá đơn tháng của bạn. Hoá đơn thật phụ thuộc số lượt, tỉ lệ token vào trên token ra, và phần đọc từ cache. Bảng giá niêm yết đầy đủ theo từng model nằm ở bảng giá token đầy đủ 46 model, và chuyên mục chọn và so sánh model gom các bài cùng nhóm tiêu chí.