Embedding là gì?

Embedding là biểu diễn văn bản, hình ảnh hoặc âm thanh thành một vector số. Mục tiêu là các nội dung có nghĩa gần nhau sẽ có vector gần nhau trong không gian nhiều chiều.

Ví dụ trực giác

Câu "cách hoàn tiền" và "thủ tục trả lại tiền" khác từ nhưng cùng nghĩa. Tìm kiếm theo từ khóa có thể bỏ sót; embedding đưa hai câu về gần nhau nên hệ thống tìm được.

Embedding dùng ở đâu?

• Tìm kiếm ngữ nghĩa trong tài liệu.
• RAG: tìm đoạn liên quan trước khi trả lời.
• Gợi ý nội dung tương tự.
• Phân cụm và phân loại văn bản.
• Phát hiện trùng lặp.

Điều cần lưu ý

• Embedding phụ thuộc mô hình tạo ra nó. Đổi mô hình thường phải tạo lại toàn bộ vector.
• Vector gần nhau không đảm bảo đúng nội dung; vẫn cần bước xếp hạng và kiểm chứng.
• Với tiếng Việt, chọn mô hình embedding hỗ trợ tốt dấu và ngữ nghĩa địa phương.

Embedding không sinh câu trả lời. Nó chỉ giúp tìm đúng đoạn để đưa vào ngữ cảnh.

Chi phí thật của embedding

Embedding rẻ hơn sinh văn bản một bậc, vì mỗi đoạn chỉ chạy một lượt và đầu ra là một dãy số, không phải văn bản dài. Nhưng nó có ba đặc điểm làm chi phí khó đoán.

Trả một lần cho cả kho, không phải cho từng câu hỏi. Một kho 1.000 tài liệu, mỗi tài liệu 5 trang, là 5.000 trang, tức khoảng 6 triệu token. Ở mức giá sinh văn bản của Gemini 3 Flash, 6 triệu token tương đương 3.600đ. Embedding cùng khối lượng rẻ hơn con số đó, nhưng đây là khoản trả trước, không phải chi phí biến đổi.

Trả lại toàn bộ khi đổi model. Vector của hai model khác nhau không so sánh được với nhau. Đổi model embedding nghĩa là chạy lại 6 triệu token đó, cộng thời gian và cộng dung lượng lưu mới. Vì vậy chọn model embedding là quyết định dài hạn hơn chọn model sinh văn bản.

Số đoạn quyết định chi phí lưu và tốc độ tìm. Cùng 6 triệu token, chia mỗi đoạn 500 token ra 12.000 vector; chia mỗi đoạn 200 token ra 30.000 vector. Nhiều vector hơn cho kết quả tìm chính xác hơn nhưng tốn dung lượng và chậm hơn, và mỗi lần lấy về vẫn phải ghép đoạn vào ngữ cảnh, tức trả tiền token cho mô hình sinh.

Điểm cuối là điểm dễ tính sai nhất: chi phí embedding nhỏ, nhưng chi phí đưa các đoạn tìm được vào prompt mới là khoản chạy mãi. Bốn đoạn 600 token cho mỗi câu hỏi là 2.400 token, và khoản đó lặp lại với từng câu hỏi. Cách tính ở RAG là gì và prompt caching giảm chi phí.

Ba điều cần quyết trước khi làm

• Kích thước đoạn. 200 đến 500 token là vùng hợp lý cho văn bản hành chính. Đoạn nhỏ hơn thì thiếu ngữ cảnh, lớn hơn thì lấy về nhiều token không cần.
• Model embedding và ngôn ngữ. Với tiếng Việt, chọn model xử lý tốt dấu; model tối ưu cho tiếng Anh thường gộp sai các từ gần nghĩa nhưng khác dấu.
• Cách cập nhật. Tài liệu thay đổi hằng ngày thì phải tạo lại vector cho phần thay đổi, không chạy lại cả kho.

Giá token của các model sinh văn bản ở bảng quy đổi token. Khái niệm liên quan: cơ sở dữ liệu vector, chunking và tìm kiếm ngữ nghĩa.