Giảm ảo giác (hallucination) của LLM trong lĩnh vực chuyên ngành

01/10/2026

Một lần thử nghiệm nội bộ, chúng tôi hỏi một model về một quy định rất cụ thể, loại có số điều khoản và năm ban hành. Nó trả lời trôi chảy, trích số điều khoản, nêu cả năm. Mọi thứ nghe hợp lý. Chỉ có điều điều khoản đó không tồn tại. Chuyện này không hiếm, và với người không am hiểu thì gần như không thể phân biệt. Đây là ảo giác của LLM (hallucination): model sinh ra nội dung trôi chảy, tự tin, nhưng sai hoặc không có căn cứ.

Vì sao model bịa

Cần hiểu cơ chế để không kỳ vọng sai. LLM được huấn luyện để đoán chữ tiếp theo hợp lý nhất, không phải để tra cứu sự thật. Khi hỏi về thứ nó nắm chắc, đoán hợp lý thường trùng với đúng. Khi hỏi về thứ hiếm, mới hoặc chuyên sâu, nó vẫn đoán, và cái đoán nghe y như thật. Không có lúc nào model 'biết' rằng mình đang bịa. Nó cũng không có cơ chế sẵn để dừng lại và nói 'tôi không rõ', trừ khi được huấn luyện hành vi đó.

Với lĩnh vực chuyên ngành, tình hình xấu hơn vì ba lý do. Dữ liệu chuyên sâu ít trong kho huấn luyện chung. Sai một chữ có thể đổi nghĩa, như một tên thuốc na ná tên khác, một đơn vị đo, một chữ 'không' bị bỏ sót. Và người đọc thường là người tin tưởng vì đoạn văn trông chuyên nghiệp. Tiếng Việt thêm một lớp nữa: thuật ngữ chuyên ngành hay có nhiều cách gọi, tên thuốc vừa có tên gốc vừa có tên thương mại, và tài liệu nguồn nhiều khi chất lượng scan kém.

Không có thuốc tiên, chỉ có nhiều lớp phòng vệ

Thành thật mà nói, chưa ai loại bỏ được hoàn toàn ảo giác. Cái làm được là giảm tần suất, làm cho lỗi dễ bị phát hiện, và thiết kế hệ thống sao cho một câu bịa không đi thẳng tới hậu quả. Dưới đây là các lớp mà chúng tôi dùng.

Cho model tài liệu để dựa vào

RAG (truy xuất rồi sinh) là lớp có tác dụng rõ nhất. Thay vì để model nhớ, ta tìm đoạn tài liệu liên quan và yêu cầu nó chỉ trả lời dựa trên đó. Điều này giảm bịa đáng kể với kiến thức riêng và thay đổi thường xuyên. Nhưng RAG không phải phép màu: nếu bước tìm kiếm lấy nhầm đoạn, model sẽ tự tin trả lời dựa trên đoạn sai. Chất lượng của việc cắt đoạn, lập chỉ mục và xếp hạng kết quả quyết định nhiều hơn người ta tưởng. Cần đo riêng bước tìm kiếm, tách khỏi bước sinh.

Bắt buộc trích nguồn

Yêu cầu mỗi khẳng định đi kèm đoạn trích và vị trí trong tài liệu. Người dùng có thể bấm vào kiểm chứng. Và ở phía hệ thống, có thể kiểm tự động xem đoạn trích có thật sự tồn tại trong tài liệu và có ủng hộ khẳng định hay không. Câu trả lời không trích được nguồn nên bị đánh dấu hoặc chặn.

Dạy model nói 'tôi không biết'

Đây là chỗ finetune LLM thực sự có giá trị. Finetune không dạy được nhiều sự kiện mới, nhưng dạy rất tốt hành vi: khi tài liệu không có thông tin thì từ chối lịch sự, khi câu hỏi nằm ngoài phạm vi thì chuyển cho người, khi tiền đề của câu hỏi có vẻ sai thì hỏi lại. Muốn vậy, bộ dữ liệu phải có đủ ví dụ về các tình huống từ chối, nếu không model học ra thói quen luôn luôn trả lời. Lưu ý đánh đổi: dạy từ chối quá tay sẽ làm model né cả những câu nó đáng lẽ trả lời được. Phải đo cả hai chiều.

Hạn chế phạm vi và đầu ra

Model hẹp việc ít bịa hơn model được kỳ vọng làm mọi thứ. Giới hạn chủ đề, dùng đầu ra có cấu trúc (điền vào các trường thay vì viết tự do), và nhiệt độ sinh thấp cho tác vụ cần chính xác. Với dữ liệu số như liều lượng, giá, ngày tháng, nên lấy trực tiếp từ cơ sở dữ liệu có cấu trúc rồi chèn vào, thay vì để model tự 'viết ra' các con số.

Kiểm tra sau khi sinh

Một bước kiểm tra riêng có thể đối chiếu câu trả lời với nguồn, bắt các tên thuốc hay thuật ngữ không có trong từ điển chuyên ngành, hoặc gắn cờ những câu chứa số liệu cần người xem. Không hoàn hảo, nhưng bắt được một phần lỗi rẻ hơn nhiều so với để người dùng tự bắt.

Người vẫn ở trong vòng lặp

Với các quyết định có hậu quả, phải có người có chuyên môn xem trước khi hành động. Thiết kế giao diện sao cho việc xem này dễ: hiển thị nguồn cạnh câu trả lời, tô sáng chỗ model không chắc, cho phép sửa nhanh và ghi lại chỗ sửa để làm dữ liệu cho vòng cải tiến sau.

Y tế và dược: ranh giới phải rõ

AIVISION làm huấn luyện và finetune LLM cho các lĩnh vực cụ thể như healthcare và dược. Ở đó chúng tôi đặt ranh giới rõ: model là công cụ hỗ trợ thông tin và công việc hành chính, như tóm tắt tài liệu, tra cứu thông tin có nguồn, soạn nháp văn bản. Nó không chẩn đoán, không kê đơn, không khuyên liều dùng. Chuyên môn y khoa quyết định cuối cùng. Thiết kế hệ thống theo hướng này không chỉ là chuyện pháp lý hay đạo đức, nó còn là cách thực tế nhất để chấp nhận việc ảo giác chưa thể loại bỏ hoàn toàn.

Đo được thì mới giảm được

Không thể giảm thứ không đo. Hãy dựng bộ câu hỏi riêng cho ảo giác: câu có đáp án trong tài liệu, câu không có đáp án, câu có tiền đề sai, câu về thực thể không tồn tại. Đo tỷ lệ bịa trước và sau mỗi thay đổi, và đọc tay các ca thất bại. Điểm tổng quát cao không cho biết nhiều về chuyện này, như chúng tôi đã bàn trong bài về đánh giá LLM tiếng Việt.

Chúng tôi huấn luyện trên cluster 24 GPU NVIDIA H200 và 8 GPU NVIDIA B300 và đã phát hành model LLM L1.0 cho tiếng Việt, nhưng sức mạnh tính toán không tự sinh ra độ tin cậy. Độ tin cậy đến từ dữ liệu sạch, thiết kế hệ thống có nhiều lớp, và thói quen nghi ngờ chính đầu ra của mình. Về cách AIVISION tiếp cận các bài toán này, bạn có thể xem thêm trên trang chủ.