Prompt engineering là gì?

Fine-tuning là huấn luyện thêm một mô hình đã có trên tập dữ liệu nhỏ để đổi phong cách hoặc hành vi. Không phù hợp để nạp kiến thức mới.

Ảo giác AI là khi mô hình tạo ra thông tin nghe hợp lý nhưng sai hoặc không có nguồn. Cách giảm: cung cấp dữ liệu, yêu cầu dẫn nguồn và kiểm chứng.

RAG (Retrieval-Augmented Generation) là cách tìm đoạn tài liệu liên quan trước, đưa vào ngữ cảnh rồi để mô hình trả lời. Giảm ảo giác, dễ cập nhật.

Token là đơn vị văn bản nhỏ mà mô hình ngôn ngữ xử lý. Chi phí, tốc độ và giới hạn ngữ cảnh đều tính bằng token, không phải số từ.

Embedding là biểu diễn văn bản thành vector số, sao cho các đoạn có nghĩa gần nhau nằm gần nhau. Nền tảng của tìm kiếm ngữ nghĩa và RAG.

LLM (Large Language Model) là mô hình ngôn ngữ lớn được huấn luyện trên lượng văn bản khổng lồ để dự đoán và sinh chữ theo ngữ cảnh.

Cửa sổ ngữ cảnh là lượng token tối đa một mô hình có thể xử lý trong một lần gọi, gồm cả phần bạn gửi vào và phần mô hình trả ra.

Cơ sở dữ liệu vector lưu embedding kèm metadata và tìm nhanh các vector gần nhau. Thành phần thường thấy trong hệ thống RAG và tìm kiếm ngữ nghĩa.