XAI: Tại sao hệ thống AI từ chối giao dịch của bạn?

10/09/2026

Sao cơ quan quản lý lại bắt buộc phải giải trình được lý do AI từ chối?

Nhiều chủ doanh nghiệp hỏi chúng tôi điều này khi chuẩn bị đưa hệ thống chấm điểm tín dụng hoặc lọc đơn hàng vào sản xuất. Câu trả lời ngắn gọn là: vì trách nhiệm pháp lý không thể đổ cho hộp đen. Khi một giao trị bị từ chối, khách hàng có quyền biết lý do. Cơ quan quản lý, đặc biệt là trong lĩnh vực tài chính và bảo hiểm, yêu cầu bằng chứng rằng quyết định đó không dựa trên các yếu tố phân biệt đối xử như giới tính hay vùng miền.

Ở Việt Nam, các quy định về an toàn thông tin và bảo vệ dữ liệu cá nhân đang siết chặt dần. Bạn không thể nói với thanh tra rằng "máy tính quyết định vậy thôi". Bạn cần một con đường logic rõ ràng từ dữ liệu đầu vào đến kết quả đầu ra. Đây chính là nơi Explainable AI (XAI) trở thành yêu cầu bắt buộc chứ không phải là tính năng thừa. Chúng tôi đã thấy nhiều dự án bị đình trệ ở khâu nghiệm thu chỉ vì không thể xuất ra bản giải trình cho từng trường hợp bị từ chối. Minh bạch thuật toán không chỉ là để đối phó với kiểm tra, mà là nền tảng để xây dựng niềm tin với đối tác và khách hàng trong dài hạn.

Trước khi viết một dòng code, chúng ta cần thỏa thuận điều gì?

Giai đoạn này hay bị bỏ qua nhất, nhưng lại quan trọng nhất. Nhiều đội kỹ thuật nhảy ngay vào việc chọn mô hình neural network phức tạp nhất mà quên hỏi: "Ai sẽ đọc lời giải thích này?". Nếu người dùng cuối là nhân viên hỗ trợ khách hàng, họ cần câu trả lời ngắn gọn như "Do lịch sử trả nợ trễ quá 3 lần trong 6 tháng qua". Nhưng nếu người đọc là kiểm toán viên, họ cần thấy trọng số của từng biến số.

Đánh đổi ở đây là: càng giải thích được chi tiết, mô hình càng có xu hướng đơn giản hóa. Bạn không thể vừa có độ chính xác 99.9% của một mô hình cực kỳ phức tạp, vừa giải thích được rõ ràng từng bước ra sao. Tại AIVISION, khi làm việc cùng các đối tác trong ngành bán lẻ và sản xuất, chúng tôi thường bắt đầu bằng việc xác định ngưỡng chấp nhận rủi ro. Ví dụ, với hệ thống phát hiện gian lận đơn hàng, chúng tôi chấp nhận độ chính xác thấp hơn đôi chút để đổi lấy khả năng chỉ rõ rằng đơn hàng bị chặn vì địa chỉ IP trùng khớp với một vụ lừa đảo đã biết, chứ không phải do một sự tương quan mơ hồ nào đó. Việc này giúp giảm tải đáng kể cho đội ngũ xử lý ngoại lệ sau này.

Trong quá trình triển khai, XAI hoạt động thế nào trên thực tế?

Khi đã chọn được mô hình phù hợp, việc áp dụng XAI không có nghĩa là thêm một lớp vỏ bọc. Nó phải nằm trong lõi của quy trình phát triển. Chúng tôi thường sử dụng các kỹ thuật như SHAP (SHapley Additive exPlanations) hoặc LIME để phân tích. Nghe thì kỹ thuật, nhưng ý nghĩa thực tế là gì? Hãy tưởng tượng bạn là quản lý vận hành của một chuỗi cung ứng. Hệ thống AI dự báo nhu cầu nguyên liệu và đề xuất cắt giảm 20% lượng hàng cho kho miền Nam.

• Không có XAI: Hệ thống chỉ trả về con số "Cắt giảm 20%".
• Có XAI: Hệ thống hiển thị rằng "Lý do chính là nhiệt độ trung bình tuần này cao hơn dự báo 5 độ, dẫn đến giảm tiêu thụ đồ nóng, cộng với việc đối thủ cạnh tranh vừa giảm giá 10% tại khu vực này".

Phần giải thích này được tạo ra tự động và gắn liền với mỗi lần hệ thống đưa ra quyết định. Nó không chỉ hiển thị cho con người, mà còn lưu vào log để phục vụ việc truy vết. Trong một dự án gần đây về phân tích dữ liệu sản xuất, chúng tôi đã giúp đội kỹ thuật phát hiện ra rằng một cảm biến nhiệt độ đang báo sai, khiến AI đưa ra cảnh báo giả. Nếu không có khả năng giải trình, họ có thể đã thay đổi toàn bộ quy trình vận hành một cách vô lý. XAI ở đây đóng vai trò như một bộ lọc sự thật, giúp con người tin vào máy tính nhiều hơn, nhưng cũng giúp con người bắt máy tính sai nhiều hơn.

Khi hệ thống chạy thật, những gì xảy ra khiến bạn bất ngờ?

Sau khi đi vào hoạt động, vấn đề lớn nhất không còn là kỹ thuật nữa, mà là con người. Ban đầu, nhân viên có xu hướng bỏ qua lời giải thích nếu họ không đồng ý với kết quả của AI. Họ vẫn giữ thói quen quyết định theo cảm tính. Đây là một rào cản văn hóa mà nhiều doanh nghiệp tại Việt Nam và cả các thị trường lân cận như Thái Lan hay Philippines đang gặp phải khi triển khai AI quy mô lớn.

Tuy nhiên, sau khoảng 3 đến 6 tháng, khi họ thấy rằng những trường hợp AI từ chối thường xuyên bị phát hiện là gian lận thật, hoặc những cảnh báo AI đưa ra giúp tiết kiệm chi phí đáng kể, niềm tin bắt đầu thay đổi. Lúc này, lời giải thích trở thành công cụ đào tạo. Thay vì phải giải thích cho nhân viên mới bằng lời nói, hệ thống tự động cung cấp lý do tại sao một giao dịch được chấp nhận hoặc từ chối. Điều này tạo ra một sự nhất quán trong vận hành mà trước đây gần như không thể đạt được. Chúng tôi nhận thấy rằng, tại các công ty đa quốc gia có mặt tại khu vực Đông Nam Á, yêu cầu về giải trình thường xuyên hơn và chi tiết hơn so với các doanh nghiệp nội địa thuần túy, do phải tuân thủ các tiêu chuẩn quốc tế. Điều này buộc hệ thống phải được thiết kế ngay từ đầu để sẵn sàng cho việc audit bất cứ lúc nào.

Còn điều gì chúng ta chưa giải quyết được và cần thêm?

Mặc dù XAI đã tiến bộ rất nhanh, nó vẫn chưa hoàn hảo. Hiện tại, chúng ta mới chỉ giải thích được "tại sao" dựa trên dữ liệu có sẵn. Chúng ta chưa thể giải thích được "tại sao dữ liệu này lại là như vậy" nếu nguồn gốc dữ liệu bị sai lệch từ trước. Ví dụ, nếu dữ liệu lịch sử đã chứa sự phân biệt đối xử vô hình, mô hình AI sẽ học và nhân rộng sự phân biệt đó, và XAI sẽ trung thành giải thích rằng sự phân biệt đó là "lý do hợp lệ" vì nó nằm trong dữ liệu. Đây là một nghịch lý đạo đức mà công nghệ hiện tại chưa xử lý triệt để.

Bên cạnh đó, chi phí tính toán để chạy các thuật toán giải thích cho hàng triệu giao dịch mỗi ngày vẫn là một gánh nặng không nhỏ. Chúng tôi đang cùng các đối tác như Masan hay các doanh nghiệp trong ngành thực phẩm đồ uống tìm kiếm các phương án cân bằng giữa tốc độ xử lý và độ sâu của giải thích. Có thể trong tương lai gần, chúng ta sẽ cần các chuẩn mực ngành rõ ràng hơn về mức độ giải thích tối thiểu là bao nhiêu. Hiện tại, chúng tôi vẫn khuyến nghị doanh nghiệp nên bắt đầu với những trường hợp rủi ro cao, nơi hậu quả của một quyết định sai là nặng nề nhất, và từ từ mở rộng phạm vi. Hành trình minh bạch thuật toán không có điểm kết thúc, nó là một quá trình cải tiến liên tục đòi hỏi sự phối hợp chặt chẽ giữa đội ngũ công nghệ và các bộ phận nghiệp vụ. Nếu bạn đang chuẩn bị đối mặt với những cuộc thanh tra sắp tới, việc xây dựng một hệ thống có khả năng giải trình rõ ràng không chỉ là bảo vệ doanh nghiệp, mà còn là lợi thế cạnh tranh khi đối tác yêu cầu sự minh bạch cao hơn trong chuỗi cung ứng chung.

AIVISION đồng hành cùng doanh nghiệp Việt Nam trong hành trình đưa AI vào vận hành thực tế. Xem thêm các giải pháp AI cho doanh nghiệp, đọc thêm bài viết khác hoặc liên hệ đội ngũ AIVISION để trao đổi theo đúng bài toán của bạn.