Từ điển
Ảo giác AI (hallucination) là gì?
Ảo giác AI là khi mô hình tạo ra thông tin nghe hợp lý nhưng sai hoặc không có nguồn. Cách giảm: cung cấp dữ liệu, yêu cầu dẫn nguồn và kiểm chứng.
Ảo giác AI (hallucination) là khi mô hình tạo ra thông tin nghe hợp lý nhưng sai, không tồn tại hoặc không có nguồn hỗ trợ. Ví dụ: trích một điều luật không có thật, gán sai tên tác giả hoặc bịa số liệu.
Vì sao xảy ra?
- Mô hình được huấn luyện để sinh chuỗi hợp lý, không phải để tra cứu sự thật.
- Câu hỏi thiếu ngữ cảnh hoặc có giả định sai.
- Mô hình bị ép trả lời dù không có dữ liệu.
- Thông tin mới hơn dữ liệu huấn luyện.
Cách giảm ảo giác
- Cung cấp tài liệu nguồn và yêu cầu chỉ dùng tài liệu đó.
- Yêu cầu trích dẫn câu hoặc số trang cho từng kết luận.
- Cho phép mô hình trả lời "không đủ dữ liệu".
- Kiểm tra chéo các con số và tên riêng.
- Với quyết định quan trọng, dùng Deep Research và đọc Evidence Ledger.
Không thể loại bỏ hoàn toàn
Mọi mô hình ngôn ngữ đều có xác suất ảo giác. Cách an toàn là thiết kế quy trình có bước kiểm chứng, không tin tuyệt đối vào một câu trả lời duy nhất.