Điều 5. Điều kiện tự động hóa và kiểm soát của con người đối với hệ thống trí tuệ nhân tạo
1. Việc tự động hóa thực hiện quyết định do hệ thống trí tuệ nhân tạo đề xuất chỉ được thực hiện khi đáp ứng các điều kiện sau:
a) Hoạt động nghiệp vụ được ứng dụng hệ thống trí tuệ nhân tạo không thuộc trường hợp pháp luật quy định phải có sự xem xét, quyết định hoặc phê duyệt của con người;
b) Mô hình đã được kiểm tra, đánh giá đạt ngưỡng chất lượng theo quy định nội bộ của đơn vị;
c) Đơn vị đã xác định rõ ngưỡng rủi ro, tiêu chí cảnh báo và quy trình giám sát hoạt động của hệ thống trí tuệ nhân tạo. Đối với hệ thống trí tuệ nhân tạo có rủi ro cao, đơn vị phải thiết lập công cụ giám sát liên tục hoạt động của hệ thống trí tuệ nhân tạo;
d) Bảo đảm khả năng can thiệp của con người theo quy định tại khoản 2 Điều này;
đ) Kết quả vận hành của hệ thống phải được rà soát và báo cáo theo quy định tại khoản 6 Điều 12 Thông tư này;
e) Bảo đảm khả năng xác định được giao dịch do hệ thống trí tuệ nhân tạo tự động thực hiện hay do con người thực hiện;
g) Trường hợp triển khai hệ thống trí tuệ nhân tạo tự động thực hiện giao dịch thanh toán, đơn vị phải triển khai đáp ứng các yêu cầu:
(i) Khách hàng và đơn vị phải xác lập thỏa thuận về việc cho phép hệ thống trí tuệ nhân tạo tự động thực hiện giao dịch thanh toán. Khi xác lập thỏa thuận đơn vị có trách nhiệm kiểm tra, đối chiếu, xác minh thông tin nhận biết khách hàng, bảo đảm thực hiện bởi chính chủ tài khoản thanh toán, thẻ, ví điện tử, tài khoản Tiền di động hoặc người đại diện của khách hàng cá nhân hoặc người đại diện theo pháp luật hoặc người đại diện theo ủy quyền của khách hàng tổ chức; trong trường hợp thực hiện bằng phương tiện điện tử phải kiểm tra tối thiểu bằng khớp đúng thông tin sinh trắc học kết hợp với một hình thức xác nhận khác quy định tại Thông tư số 50/2024/TT-NHNN của Thống đốc Ngân hàng Nhà nước Việt Nam quy định về an toàn, bảo mật cho việc cung cấp dịch vụ trực tuyến trong ngành Ngân hàng được sửa đổi, bổ sung bởi Thông tư số 77/2025/TT-NHNN (sau đây gọi tắt là Thông tư số 50/2024/TT-NHNN). Thỏa thuận phải xác định rõ: phạm vi giao dịch được tự động thực hiện; hạn mức theo từng giao dịch và theo ngày; thời hạn hiệu lực; điều kiện tạm dừng; quyền của khách hàng chấm dứt thỏa thuận bất kỳ thời điểm nào và trách nhiệm của đơn vị thực hiện ngay yêu cầu chấm dứt;
(ii) Tổng giá trị giao dịch do hệ thống trí tuệ nhân tạo tự động thực hiện trong một ngày của một khách hàng không vượt quá hạn mức theo quy định nội bộ của đơn vị, nhưng không vượt quá 100 triệu đồng đối với khách hàng cá nhân, không vượt quá 500 triệu đồng đối với khách hàng tổ chức;
(iii) Có công cụ cho phép khách hàng chủ động tạm dừng hoặc hủy quyền cho phép hệ thống trí tuệ nhân tạo tự động thực hiện giao dịch thanh toán;
(iv) Trong phạm vi thỏa thuận đã được xác nhận, các giao dịch do hệ thống trí tuệ nhân tạo tự động thực hiện không phải áp dụng xác nhận giao dịch theo điểm a, điểm c khoản 1 Điều 10 Thông tư số 50/2024/TT-NHNN và giá trị giao dịch không tính vào T, Tksth theo quy định tại Phụ lục 01, Phụ lục 03 ban hành kèm theo Thông tư số 50/2024/TT-NHNN;
h) Trường hợp triển khai hệ thống trí tuệ nhân tạo tự động quyết định cấp tín dụng, đơn vị phải tuân thủ quy định về cho vay bằng phương tiện điện tử theo quy định của pháp luật.
2. Đơn vị phải thiết lập cơ chế giám sát và bảo đảm khả năng can thiệp của con người phù hợp với mức độ rủi ro của hệ thống trí tuệ nhân tạo, trong đó:
a) Bộ phận thực hiện giám sát hệ thống trí tuệ nhân tạo phải có đầy đủ quyền hạn và năng lực để:
(i) Ghi đè hoặc điều chỉnh, tạm dừng quyết định của hệ thống trí tuệ nhân tạo hoặc kích hoạt cơ chế ngắt khẩn cấp để dừng hoặc cô lập hệ thống trong trường hợp cần thiết;
(ii) Can thiệp trong các tình huống cần thiết nhằm bảo đảm an toàn hoạt động nghiệp vụ, quyền lợi của khách hàng và hoạt động của các hệ thống thông tin;
b) Mọi hoạt động can thiệp, điều chỉnh hoặc ghi đè quyết định của hệ thống trí tuệ nhân tạo phải được ghi nhận đầy đủ, tối thiểu bao gồm: nội dung thực hiện, thời gian thực hiện, người thực hiện, lý do can thiệp.
3. Nhân sự tham gia giám sát, kiểm soát và can thiệp đối với hệ thống trí tuệ nhân tạo phải được đào tạo và có năng lực phù hợp để giám sát, phát hiện sai lệch, thực hiện hoặc kích hoạt các biện pháp can thiệp, xử lý kịp thời khi hệ thống trí tuệ nhân tạo hoạt động sai lệch.