Bỏ qua điều hướng
Mục lục

Từ điển

Reranking là gì?

Reranking là bước xếp hạng lại các đoạn tài liệu đã tìm được, giúp đưa đoạn liên quan nhất lên đầu trước khi mô hình trả lời.

Đội ngũ WinSell1 phút đọc

Reranking là bước xếp hạng lại các đoạn tài liệu đã tìm được, giúp đưa đoạn liên quan nhất lên đầu trước khi mô hình trả lời.

Vì sao cần bước thứ hai?

Tìm kiếm vector nhanh nhưng gần đúng. Nó có thể trả về 20 đoạn "na ná" trong khi chỉ 3 đoạn thật sự chứa câu trả lời. Reranker đọc kỹ cặp câu hỏi - đoạn văn và cho điểm chính xác hơn.

Quy trình hai bước

  1. Retrieval: lấy 20-50 ứng viên bằng embedding hoặc tìm kiếm từ khóa.
  2. Reranking: chấm lại và giữ 3-8 đoạn tốt nhất.
  3. Generation: đưa các đoạn đã chọn vào prompt.

Lợi ích

  • Tăng độ chính xác của ngữ cảnh.
  • Giảm token vì chỉ giữ đoạn tốt.
  • Giảm câu trả lời dựa trên tài liệu không liên quan.

Chi phí

Reranking thêm độ trễ và chi phí tính toán. Với tập tài liệu nhỏ hoặc câu hỏi đơn giản, có thể bỏ qua. Với knowledge base lớn, đây thường là cải tiến đáng giá nhất.

Đọc tiếp

Bài viết liên quan

WISA BY WINSELL

Chào mừng bạn quay lại

Đăng nhập để tiếp tục với những website bạn đang tạo.

Tiếp tục với Google

Bằng việc tiếp tục với Google, bạn đồng ý với Điều khoản và xác nhận đủ 13 tuổi trở lên.

Chưa có tài khoản? Tạo miễn phí