Điều 13. Ứng dụng trí tuệ nhân tạo tạo sinh (Gen AI) và tác nhân trí tuệ nhân tạo (AI Agent) trong hoạt động công vụ
1. Việc sử dụng trí tuệ nhân tạo tạo sinh và tác nhân trí tuệ nhân tạo trong hoạt động công vụ phải đúng mục đích, thẩm quyền, phạm vi nhiệm vụ; có kiểm tra, giám sát của con người; không sử dụng kết quả đầu ra của hệ thống làm căn cứ duy nhất để ban hành quyết định, kết luận hoặc thực hiện hành vi làm phát sinh, thay đổi, chấm dứt quyền, nghĩa vụ của tổ chức, cá nhân.
2. Việc cấp quyền cho tác nhân trí tuệ nhân tạo phải tuân thủ nguyên tắc phân quyền tối thiểu, đúng mục đích, phạm vi, đúng thời hạn, có khả năng thu hồi, có khả năng truy vết và có người chịu trách nhiệm phê duyệt.
3. Cơ quan, đơn vị thuộc Thành phố có trách nhiệm ban hành quy trình nội bộ về sử dụng trí tuệ nhân tạo tạo sinh, tác nhân trí tuệ nhân tạo trong hoạt động công vụ, trong đó xác định tối thiểu:
a) Nhóm công việc được sử dụng, giới hạn thực thi của trí tuệ nhân tạo và quyền phê duyệt;
b) Loại dữ liệu, tài liệu, thông tin được phép hoặc không được phép nhập vào hệ thống;
c) Giới hạn phạm vi của tác nhân trí tuệ nhân tạo bảo đảm không tự động tạo, sửa đổi, xóa, chuyển giao, chia sẻ hoặc công khai dữ liệu thuộc phạm vi quản lý của cơ quan nhà nước; tự mở rộng phạm vi nhiệm vụ, tự cấp thêm quyền, tự
kết nối hệ thống mới, tự thay đổi giới hạn hành động hoặc tự vô hiệu hóa cơ chế giám sát; tự thực hiện các hoạt động vượt quá phạm vi gây ảnh hưởng đến hệ thống thông tin;
d) Trách nhiệm kiểm chứng, chỉnh sửa, phê duyệt, lưu vết việc sử dụng kết quả đầu ra;
đ) Yêu cầu thông báo, gắn nhãn hoặc ghi nhận việc có sử dụng trí tuệ nhân tạo khi pháp luật có quy định;
e) Biện pháp bảo mật, bảo vệ dữ liệu, bảo vệ bí mật nhà nước, bảo vệ quyền sở hữu trí tuệ và xử lý sự cố;
g) Đối với các tác nhân trí tuệ nhân tạo tương tác trực tiếp với tổ chức, cá nhân, phải thiết lập cơ chế tự động chuyển hướng hỗ trợ sang cán bộ chuyên trách khi hệ thống không giải quyết đúng yêu cầu sau 02 lần tương tác, hoặc ngay khi có yêu cầu kết nối trực tiếp từ người dùng.
4. Khi tác nhân trí tuệ nhân tạo có dấu hiệu thực hiện hành động ngoài phạm vi nhiệm vụ, vượt giới hạn quyền, truy cập dữ liệu bất thường, tạo chuỗi hành động ngoài dự kiến, tiêu thụ tài nguyên bất thường, tạo đầu ra có nguy cơ gây thiệt hại hoặc có dấu hiệu bị tấn công, chiếm quyền điều khiển, cơ quan chủ quản hệ thống trí tuệ nhân tạo phải kịp thời tạm dừng, cô lập, thu hồi quyền truy cập, bảo toàn nhật ký và xử lý sự cố theo quy định tại Điều 10 Quy định này.