LLM tiếng Việt cho ngân hàng và tài chính: ứng dụng và rủi ro
01/10/2026

Thử hình dung một nhân viên tín dụng nhận hồ sơ vay dày hơn hai trăm trang scan: sao kê, hợp đồng lao động, giấy tờ tài sản, tờ trình. Việc đầu tiên anh ấy làm không phải thẩm định, mà là đọc cho ra cái hồ sơ này nói gì. Chính chỗ đó là nơi LLM tiếng Việt bắt đầu có ích trong ngân hàng. Và cũng chính chỗ đó, nếu làm ẩu, là nơi rủi ro lớn nhất xuất hiện. Bài này nói về cả hai mặt, theo cách của người làm sản phẩm chứ không phải người bán giải pháp.
Ba nhóm việc LLM làm được
Trả lời khách hàng
Đây là ứng dụng dễ thấy nhất. Khách hỏi về biểu phí, thủ tục mở thẻ, cách xử lý giao dịch lỗi. Một chatbot dựa trên LLM, được kết nối với kho tài liệu chính thức của ngân hàng, có thể trả lời bằng tiếng Việt tự nhiên và trích nguồn. Chữ "trích nguồn" ở đây rất quan trọng. Một câu trả lời về lãi suất mà không chỉ được văn bản gốc thì không nên được gửi đi.
Chatbot cũng nên biết khi nào dừng. Khách hỏi "tôi có nên vay thêm để đầu tư không?" là câu mà hệ thống phải từ chối khéo và chuyển cho người, vì đó là tư vấn tài chính cá nhân chứ không phải tra cứu thông tin.
Tóm tắt hồ sơ và tài liệu nội bộ
Quay lại hồ sơ vay ở đầu bài. LLM có thể trích các trường chính, tóm tắt tờ trình, đánh dấu những chỗ mâu thuẫn giữa các giấy tờ (tên công ty viết khác nhau, thu nhập trên hợp đồng lao động lệch với sao kê). Nó cũng hữu ích cho báo cáo nội bộ, biên bản họp, văn bản quy định thay đổi liên tục. Ở đây LLM là người đọc nhanh, không phải người quyết định.
Hỗ trợ nội bộ
Nhân viên mới thường mất rất lâu để biết quy trình nào nằm ở văn bản nào. Một trợ lý tra cứu quy định nội bộ bằng ngôn ngữ tự nhiên rút ngắn thời gian đó. Rủi ro thấp hơn hướng khách hàng, nên nhiều tổ chức bắt đầu từ đây.
Những rủi ro không được xem nhẹ
Ngân hàng không giống một công ty thương mại điện tử: một câu trả lời sai có thể thành khiếu nại, thành kiện tụng, hoặc thành phạt từ cơ quan quản lý. Tôi liệt kê những điều cần kiểm soát, theo thứ tự tôi thấy chúng gây đau đầu nhất.
- Bịa thông tin (hallucination): LLM có thể tự tin nêu một mức phí hay điều kiện không hề tồn tại. Cách giảm thiểu là buộc mô hình chỉ trả lời dựa trên tài liệu được cấp, kèm trích dẫn, và từ chối khi không có căn cứ. Giảm thiểu, không phải loại bỏ hoàn toàn.
- Lộ dữ liệu khách hàng: dữ liệu tài chính thuộc loại nhạy cảm nhất. Cần quyết định rõ mô hình chạy ở đâu, dữ liệu có rời khỏi hạ tầng của ngân hàng không, và log hội thoại được lưu thế nào.
- Prompt injection: khách hoặc tài liệu độc hại có thể chèn lệnh vào nội dung để mô hình làm sai chỉ dẫn. Với hệ thống đọc tài liệu từ bên ngoài, đây là rủi ro thực chứ không phải lý thuyết.
- Thiên lệch và công bằng: nếu mô hình tham gia vào đánh giá tín dụng, cần kiểm tra xem nó có đối xử khác nhau với các nhóm khách hàng hay không. Cá nhân tôi cho rằng quyết định cấp tín dụng không nên giao cho LLM, mà chỉ nên dùng nó chuẩn bị thông tin cho người quyết định.
- Khả năng giải trình: khi cơ quan quản lý hoặc khách hàng hỏi vì sao có câu trả lời này, bạn phải truy lại được nó dựa trên tài liệu nào.
Vì sao tiếng Việt và vì sao finetune
Ngôn ngữ ngân hàng có đặc thù riêng: thuật ngữ như "dư nợ gốc", "tài sản bảo đảm", "hạn mức thấu chi" mang nghĩa chính xác, và những văn bản quy định viết theo lối hành chính khá dày đặc. Mô hình đa ngôn ngữ cỡ lớn xử lý tiếng Việt thông thường tạm ổn, nhưng với văn phong và thuật ngữ chuyên ngành thì việc finetune LLM trên dữ liệu tiếng Việt của lĩnh vực thường cho kết quả phù hợp hơn. Đó cũng là điều AIVISION làm: chúng tôi huấn luyện và finetune LLM cho tiếng Việt và cho các lĩnh vực cụ thể, trên hạ tầng cluster NVIDIA H200 và B300 của mình, và đã phát hành model L1.0 cho tiếng Việt. Với tài chính, tôi không khẳng định đã có kết quả nào cụ thể, mà chỉ nói đây là hướng chúng tôi cho là hợp lý.
Một lộ trình thận trọng
Nếu tôi phải đề xuất cho một ngân hàng, tôi sẽ đi từ trợ lý nội bộ, sang tóm tắt tài liệu có người kiểm, rồi mới tới chatbot hướng khách hàng với phạm vi hẹp. Mỗi bước có bộ câu hỏi kiểm thử riêng, gồm cả những câu bẫy cố tình hỏi ngoài phạm vi. Và ở mọi bước, hệ thống chỉ là công cụ hỗ trợ: nó không phải tư vấn đầu tư, không thay thế quyết định của chuyên viên.
Bạn có thể xem thêm hướng tiếp cận của AIVISION về mô hình ngôn ngữ cho tiếng Việt trên website của chúng tôi.