Từ điển
Token là gì?
Token là đơn vị văn bản nhỏ mà mô hình ngôn ngữ xử lý. Chi phí, tốc độ và giới hạn ngữ cảnh đều tính bằng token, không phải số từ.
Token là đơn vị văn bản nhỏ mà mô hình ngôn ngữ xử lý. Một token có thể là một từ, một phần của từ hoặc một dấu câu, tùy bộ tách từ của mô hình.
Token khác gì từ?
Với tiếng Anh, một token thường gần bằng 3/4 từ. Với tiếng Việt, một từ có dấu có thể bị tách thành nhiều token hơn, nên cùng một đoạn văn tiếng Việt có thể tốn nhiều token hơn tiếng Anh.
Điều này giải thích vì sao chi phí xử lý tài liệu tiếng Việt không tỷ lệ thuận với số từ bạn nhìn thấy.
Token quyết định điều gì?
- Chi phí: giá API tính theo token đầu vào và đầu ra.
- Tốc độ: càng nhiều token, mô hình trả lời càng lâu.
- Giới hạn ngữ cảnh: mỗi mô hình có trần token cho một lần gọi.
1 token bằng bao nhiêu tiền?
Không có một giá chung, vì mỗi mô hình có mức giá riêng cho 1 triệu token. Trong danh mục Wisa, 1 triệu token đầu vào giá từ 60đ (GPT OSS 20B) đến 12.000đ (GPT-6 Astra). Claude Opus 5.5 ở mức 4.800đ.
Vì một token lẻ rẻ hơn một phần nghìn đồng, mọi bảng giá đều tính theo 1 triệu token. Công thức quy đổi:
chi phí (đ) = ((token vào ÷ 1.000.000) × giá vào + (token ra ÷ 1.000.000) × giá ra) × 1.000
Một trang A4 văn bản thường vào khoảng 500 đến 800 token. Một câu hỏi kèm một trang ngữ cảnh và câu trả lời vài đoạn vào khoảng 2.700 token, tức khoảng 26đ với Claude Opus 5.5.
Bảng giá đang chạy cho từng mô hình nằm ở bảng quy đổi token, cập nhật mỗi giờ.
Cách giảm token mà không mất chất lượng
- Gửi phần tài liệu liên quan thay vì toàn bộ.
- Tóm tắt trước, hỏi chi tiết sau.
- Đặt giới hạn độ dài đầu ra rõ ràng.
- Xóa lịch sử hội thoại không còn cần thiết.
- Hỏi tiếp trong cùng một cuộc trò chuyện để phần ngữ cảnh đã đọc được tính giá cache.
Wisa tính chi phí bằng CUBE, quy đổi từ token thực tế của từng mô hình, nên bạn thấy được tác động của việc tăng hoặc giảm ngữ cảnh. Xem CUBE là gì để hiểu đơn vị tiền, và 10 CUBE bằng bao nhiêu token để có bảng quy đổi cụ thể.
Câu hỏi thường gặp
1 token bằng bao nhiêu tiền?
Token không có một giá cố định, vì mỗi mô hình có mức giá riêng cho 1 triệu token. Trong danh mục Wisa, 1 triệu token đầu vào giá từ 60đ với GPT OSS 20B đến 12.000đ với GPT-6 Astra. Chia ra thì một token rẻ hơn một phần nghìn đồng, nên người ta luôn tính theo triệu token.
Một trang A4 tốn bao nhiêu token?
Khoảng 500 đến 800 token cho một trang văn bản thường. Trang PDF scan có thể tốn nhiều hơn vì lớp văn bản bị vỡ. Với tiếng Việt có dấu, cùng một trang có thể tốn nhiều token hơn bản tiếng Anh.
Vì sao token đầu ra đắt hơn token đầu vào?
Sinh token là bước tính toán nặng hơn đọc token. Mô hình phải chạy lặp lại cho từng token mới, trong khi phần đầu vào chỉ chạy một lượt. Mọi mô hình trong danh mục Wisa đều tính giá đầu ra cao hơn đầu vào, thường 3 đến 8 lần.