Từ điển
Reasoning model là gì?
Reasoning model là mô hình được huấn luyện để dành nhiều bước suy luận trước khi trả lời, phù hợp toán, logic và lập kế hoạch phức tạp.
Reasoning model là mô hình được huấn luyện để dành nhiều bước suy luận trước khi trả lời. Nó thường chậm và tốn hơn mô hình thông thường, nhưng làm tốt hơn ở bài toán nhiều bước.
Phù hợp với việc gì?
- Toán và thống kê.
- Lập kế hoạch có nhiều ràng buộc.
- Phân tích logic, tìm mâu thuẫn.
- Bài toán cần thử nhiều phương án.
Không phù hợp với việc gì?
- Viết email đơn giản.
- Tóm tắt đoạn văn ngắn.
- Phân loại hàng loạt với chi phí thấp.
- Tác vụ cần trả lời tức thì.
Chi phí và độ trễ
Mô hình suy luận có thể dùng nhiều token ẩn trước khi trả lời. Vì vậy cùng một câu hỏi, chi phí có thể cao hơn nhiều lần so với mô hình thường.
Cách dùng
Chọn mô hình suy luận cho câu hỏi khó, mô hình nhỏ cho việc lặp lại. Đừng mặc định dùng mô hình mạnh nhất cho mọi việc; bạn sẽ trả tiền cho độ chính xác không cần thiết.