Từ điển
Chunking là gì?
Chunking là chia tài liệu dài thành đoạn nhỏ để tìm kiếm và đưa vào ngữ cảnh. Kích thước và cách chia ảnh hưởng trực tiếp đến chất lượng RAG.
Chunking là chia tài liệu dài thành đoạn nhỏ để tìm kiếm và đưa vào ngữ cảnh. Đây là bước quyết định chất lượng của hệ thống RAG.
Vì sao phải chia?
Mô hình có giới hạn ngữ cảnh và chi phí tăng theo token. Không thể đưa cả trăm trang vào mỗi câu hỏi. Chia nhỏ giúp tìm đúng phần liên quan.
Cách chia
- Theo tiêu đề và đoạn văn, giữ nguyên ý.
- Theo trang hoặc mục, phù hợp tài liệu có cấu trúc.
- Có overlap 10-20% để không cắt mất câu quan trọng.
- Giữ metadata: tên tài liệu, mục, trang.
Kích thước bao nhiêu?
Không có con số chung. Đoạn quá nhỏ mất ngữ cảnh; quá lớn làm loãng tín hiệu tìm kiếm. Với văn bản hành chính, 300-600 token mỗi đoạn là điểm khởi đầu hợp lý, sau đó đo và chỉnh.
Kiểm tra
Đặt câu hỏi mà bạn biết câu trả lời nằm ở đâu. Nếu hệ thống không tìm ra đoạn đúng, vấn đề thường ở chunking hoặc embedding, không phải mô hình.