AI Assistant Desk được xây dựng quanh trách nhiệm giải trình

Hệ thống đăng ký dự kiến ghi nhận ai là người sở hữu một tác tử AI, tác tử đó được phép làm gì và được sử dụng như thế nào. Nhờ vậy, mỗi hệ thống tự động có thể được gắn với một đơn vị hoặc cá nhân chịu trách nhiệm, đồng thời hoạt động của nó được xem xét theo thời gian.

Điều này quan trọng vì tác tử AI không chỉ tạo văn bản. Tùy vào quyền hạn và các hệ thống được kết nối, một tác tử có thể đưa ra quyết định, gọi công cụ hoặc thực hiện nhiệm vụ với tốc độ máy. Vì thế, hệ thống đăng ký đóng vai trò như một danh mục tài sản số đi kèm cơ chế quy trách nhiệm, chứ không đơn thuần là danh sách phần mềm.

GovTech mô tả AI Assistant Desk là một môi trường trợ lý số an toàn dành cho công chức. Các trường hợp sử dụng dự kiến gồm soạn báo cáo, quản lý lịch, lập trình, nghiên cứu và những công việc thường nhật khác.

“Hàng rào” kỹ thuật quyết định tác tử được làm gì

Mô hình được đề xuất là đặt an toàn vào hệ thống bao quanh AI, thay vì chỉ dựa vào cơ chế bảo vệ tích hợp trong từng mô hình riêng lẻ. Các biện pháp được nêu gồm:

• quy tắc có thể tùy chỉnh theo từng cơ quan hoặc trường hợp sử dụng;
• danh sách công cụ AI được phê duyệt;
• hạn chế những hành động như xóa tệp hoặc gửi email ra bên ngoài;
• giới hạn số lượng và danh sách người nhận nhằm giảm nguy cơ phát tán ngoài kiểm soát hoặc gửi thư rác; và
• tự động kiểm tra lời nhắc và đầu ra để phát hiện ngôn ngữ xúc phạm cùng các vấn đề an toàn cơ bản khác.

Cách làm này phản ánh nguyên tắc quyền tối thiểu: tác tử chỉ nên được cấp đúng phạm vi truy cập và hành động cần thiết cho nhiệm vụ của mình. Nguyên tắc đó càng quan trọng khi các cơ quan sử dụng nhiều mô hình khác nhau hoặc kết nối tác tử với những hệ thống chính phủ chứa dữ liệu nhạy cảm.

Lớp an toàn không phụ thuộc hoàn toàn vào một mô hình

AI Guardian của GovTech cung cấp một lớp quản trị riêng cho các ứng dụng AI. Hai thành phần được nêu có chức năng ở những giai đoạn khác nhau: Litmus đánh giá rủi ro an toàn và bảo mật trước khi triển khai thông qua kiểm thử đối kháng, còn Sentinel thực hiện kiểm duyệt nội dung và lọc đầu ra theo thời gian thực khi ứng dụng đã vận hành.

Việc tách các chức năng này khỏi mô hình nền có thể giúp giảm sự phụ thuộc vào một nhà cung cấp duy nhất. GovTech cũng cho biết kiến trúc bảo mật của Assistant Desk được thiết kế để duy trì các lớp bảo vệ ngay cả khi công cụ AI của bên thứ ba được bổ sung hoặc thay thế.

Sự phân tách này có ý nghĩa thực tế: mô hình có thể thay đổi, nhưng yêu cầu của chính phủ về bảo vệ dữ liệu, hành động được phép, giám sát và an toàn đầu ra cần duy trì ổn định. Khung AI có trách nhiệm của GovTech xác định an toàn, độ bền vững, bảo mật và quyền riêng tư, khả năng giải thích cùng tính minh bạch là những yêu cầu cốt lõi.

Triển khai AI đi cùng xây dựng năng lực

Chương trình AI của Singapore không chỉ xoay quanh các tác tử tự động. Trợ lý Pair của GovTech đã hỗ trợ công việc viết, nghiên cứu, tóm tắt và phân tích trên các thiết bị do chính phủ cấp. Công cụ này được phép xử lý dữ liệu chính phủ nhạy cảm mà các chatbot thương mại không thể tiếp nhận.

GovTech cũng phát triển kỹ thuật phần mềm có AI hỗ trợ và các phương thức lập trình ít mã (low-code), giúp đội ngũ kỹ thuật và công chức tạo nguyên mẫu hoặc tự động hóa quy trình nhanh hơn. Các báo cáo trước đây của GovTech đề cập đến kế hoạch đưa vào sử dụng trợ lý viết mã, công cụ hỗ trợ kỹ thuật bằng AI và những nền tảng giúp cơ quan nhà nước chuyển nguyên mẫu sang môi trường an toàn hơn.

Đào tạo là một phần khác của hạ tầng này. GovTech cung cấp tài nguyên học tập về dữ liệu và AI cho công chức, trong khi kế hoạch nhân lực rộng hơn của Singapore bao gồm các chương trình nâng cao kỹ năng AI cho chuyên gia công nghệ làm việc với tự động hóa viết mã và các hệ thống tác tử.

Mục tiêu thực tế là xây dựng năng lực bên trong chính phủ: công chức cần biết khi nào nên dùng AI, đội ngũ kỹ thuật phải đánh giá và bảo mật những gì họ tạo ra, còn các cơ quan cần những nền tảng dùng chung thay vì một tập hợp thử nghiệm rời rạc.

Các dự án công cho thấy vì sao đánh giá là khâu bắt buộc

LangBuddy của GovTech cho thấy một ứng dụng AI cần được đánh giá dựa trên mục đích thực tế. Đây là chatbot thoại dùng AI, được thiết kế để giúp học sinh luyện nói ngôn ngữ mẹ đẻ thông qua hội thoại.

Với một sản phẩm như vậy, đánh giá không thể chỉ dừng ở việc chatbot trả lời trôi chảy. GovTech xem xét cả mức độ an toàn, nguy cơ tạo thông tin sai và khả năng tuân thủ các quy tắc sư phạm đã đặt ra.

Nguyên tắc này có thể áp dụng rộng rãi cho các dịch vụ công: cơ quan nhà nước cần kiểm tra xem AI có thực hiện đúng nhiệm vụ, tuân thủ giới hạn và hành xử phù hợp trong các tương tác thực tế hay không, thay vì chỉ đánh giá dựa trên việc câu trả lời nghe có vẻ thuyết phục.

An ninh mạng vừa là điều kiện nền tảng, vừa là lĩnh vực ứng dụng AI

Triết lý quản trị tương tự cũng xuất hiện trong hoạt động an ninh mạng của GovTech. Cơ quan này nêu các năng lực gồm thiết kế hệ thống an toàn, diễn tập tấn công (red team), kiểm thử xâm nhập, tiếp nhận báo cáo lỗ hổng từ cộng đồng và vận hành phòng thủ (blue team) để phát hiện, xử lý mối đe dọa.

GovTech đồng thời thử nghiệm kiểm thử xâm nhập có AI hỗ trợ và tự động phân loại, ưu tiên sự cố trong hoạt động an ninh. Như vậy, AI được triển khai ở cả hai phía của quy trình bảo mật: hỗ trợ tìm điểm yếu và giúp đội ngũ phòng thủ xác định sự cố cần xử lý trước.

Một số báo cáo đề cập tới hơn 2.000 hệ thống số của chính phủ trong bối cảnh mở rộng kiểm thử an ninh. Tuy nhiên, các tài liệu hiện có chỉ củng cố định hướng rộng hơn gồm red team, kiểm thử xâm nhập và vận hành an ninh có AI hỗ trợ; chưa đủ để khẳng định hoạt động kiểm thử AI liên tục đã được triển khai trên mọi hệ thống trong số đó.

AI phục vụ chiến lược rộng hơn của Singapore như thế nào?

Nhìn tổng thể, các sáng kiến này hướng tới ba mục tiêu liên kết với nhau:

1. Cải thiện cung cấp dịch vụ công. Trợ lý và tác tử AI có thể xử lý việc soạn thảo, phân tích, lập trình và các quy trình thường nhật, giúp công chức dành nhiều thời gian hơn cho những trường hợp phức tạp và công việc trực tiếp với người dân.
2. Tăng cường năng lực công nghệ nội bộ. Nền tảng dùng chung, công cụ đánh giá, lớp bảo mật và đào tạo giúp Singapore duy trì kiến thức vận hành trong nước, thay vì phụ thuộc hoàn toàn vào một nhà cung cấp mô hình hoặc sản phẩm thương mại.
3. Bảo vệ niềm tin công chúng và các hệ thống trọng yếu. Hệ thống đăng ký, phân quyền, khả năng kiểm toán, kiểm thử an toàn và phòng thủ mạng tạo ra cơ chế giám sát khi AI ngày càng tiếp cận nhiều hơn với công việc và dữ liệu của chính phủ.

Bài học trung tâm là mở rộng AI một cách an toàn không chỉ là bài toán của mô hình, mà còn là bài toán kiến trúc. Singapore đang cố gắng đưa AI đến với lực lượng công chức trên quy mô lớn, đồng thời bảo đảm chủ sở hữu, quyền hạn, hoạt động kiểm thử và nhật ký sử dụng vẫn nằm trong tầm nhìn của các cơ quan chịu trách nhiệm cung cấp dịch vụ công.

AI Assistant Desk được xây dựng quanh trách nhiệm giải trình

Hệ thống đăng ký dự kiến ghi nhận ai là người sở hữu một tác tử AI, tác tử đó được phép làm gì và được sử dụng như thế nào. Nhờ vậy, mỗi hệ thống tự động có thể được gắn với một đơn vị hoặc cá nhân chịu trách nhiệm, đồng thời hoạt động của nó được xem xét theo thời gian.

Điều này quan trọng vì tác tử AI không chỉ tạo văn bản. Tùy vào quyền hạn và các hệ thống được kết nối, một tác tử có thể đưa ra quyết định, gọi công cụ hoặc thực hiện nhiệm vụ với tốc độ máy. Vì thế, hệ thống đăng ký đóng vai trò như một danh mục tài sản số đi kèm cơ chế quy trách nhiệm, chứ không đơn thuần là danh sách phần mềm.

GovTech mô tả AI Assistant Desk là một môi trường trợ lý số an toàn dành cho công chức. Các trường hợp sử dụng dự kiến gồm soạn báo cáo, quản lý lịch, lập trình, nghiên cứu và những công việc thường nhật khác.

“Hàng rào” kỹ thuật quyết định tác tử được làm gì

Mô hình được đề xuất là đặt an toàn vào hệ thống bao quanh AI, thay vì chỉ dựa vào cơ chế bảo vệ tích hợp trong từng mô hình riêng lẻ. Các biện pháp được nêu gồm:

• quy tắc có thể tùy chỉnh theo từng cơ quan hoặc trường hợp sử dụng;
• danh sách công cụ AI được phê duyệt;
• hạn chế những hành động như xóa tệp hoặc gửi email ra bên ngoài;
• giới hạn số lượng và danh sách người nhận nhằm giảm nguy cơ phát tán ngoài kiểm soát hoặc gửi thư rác; và
• tự động kiểm tra lời nhắc và đầu ra để phát hiện ngôn ngữ xúc phạm cùng các vấn đề an toàn cơ bản khác.

Cách làm này phản ánh nguyên tắc quyền tối thiểu: tác tử chỉ nên được cấp đúng phạm vi truy cập và hành động cần thiết cho nhiệm vụ của mình. Nguyên tắc đó càng quan trọng khi các cơ quan sử dụng nhiều mô hình khác nhau hoặc kết nối tác tử với những hệ thống chính phủ chứa dữ liệu nhạy cảm.

Lớp an toàn không phụ thuộc hoàn toàn vào một mô hình

AI Guardian của GovTech cung cấp một lớp quản trị riêng cho các ứng dụng AI. Hai thành phần được nêu có chức năng ở những giai đoạn khác nhau: Litmus đánh giá rủi ro an toàn và bảo mật trước khi triển khai thông qua kiểm thử đối kháng, còn Sentinel thực hiện kiểm duyệt nội dung và lọc đầu ra theo thời gian thực khi ứng dụng đã vận hành.

Việc tách các chức năng này khỏi mô hình nền có thể giúp giảm sự phụ thuộc vào một nhà cung cấp duy nhất. GovTech cũng cho biết kiến trúc bảo mật của Assistant Desk được thiết kế để duy trì các lớp bảo vệ ngay cả khi công cụ AI của bên thứ ba được bổ sung hoặc thay thế.

Sự phân tách này có ý nghĩa thực tế: mô hình có thể thay đổi, nhưng yêu cầu của chính phủ về bảo vệ dữ liệu, hành động được phép, giám sát và an toàn đầu ra cần duy trì ổn định. Khung AI có trách nhiệm của GovTech xác định an toàn, độ bền vững, bảo mật và quyền riêng tư, khả năng giải thích cùng tính minh bạch là những yêu cầu cốt lõi.

Triển khai AI đi cùng xây dựng năng lực

Chương trình AI của Singapore không chỉ xoay quanh các tác tử tự động. Trợ lý Pair của GovTech đã hỗ trợ công việc viết, nghiên cứu, tóm tắt và phân tích trên các thiết bị do chính phủ cấp. Công cụ này được phép xử lý dữ liệu chính phủ nhạy cảm mà các chatbot thương mại không thể tiếp nhận.

GovTech cũng phát triển kỹ thuật phần mềm có AI hỗ trợ và các phương thức lập trình ít mã (low-code), giúp đội ngũ kỹ thuật và công chức tạo nguyên mẫu hoặc tự động hóa quy trình nhanh hơn. Các báo cáo trước đây của GovTech đề cập đến kế hoạch đưa vào sử dụng trợ lý viết mã, công cụ hỗ trợ kỹ thuật bằng AI và những nền tảng giúp cơ quan nhà nước chuyển nguyên mẫu sang môi trường an toàn hơn.

Đào tạo là một phần khác của hạ tầng này. GovTech cung cấp tài nguyên học tập về dữ liệu và AI cho công chức, trong khi kế hoạch nhân lực rộng hơn của Singapore bao gồm các chương trình nâng cao kỹ năng AI cho chuyên gia công nghệ làm việc với tự động hóa viết mã và các hệ thống tác tử.

Mục tiêu thực tế là xây dựng năng lực bên trong chính phủ: công chức cần biết khi nào nên dùng AI, đội ngũ kỹ thuật phải đánh giá và bảo mật những gì họ tạo ra, còn các cơ quan cần những nền tảng dùng chung thay vì một tập hợp thử nghiệm rời rạc.

Các dự án công cho thấy vì sao đánh giá là khâu bắt buộc

LangBuddy của GovTech cho thấy một ứng dụng AI cần được đánh giá dựa trên mục đích thực tế. Đây là chatbot thoại dùng AI, được thiết kế để giúp học sinh luyện nói ngôn ngữ mẹ đẻ thông qua hội thoại.

Với một sản phẩm như vậy, đánh giá không thể chỉ dừng ở việc chatbot trả lời trôi chảy. GovTech xem xét cả mức độ an toàn, nguy cơ tạo thông tin sai và khả năng tuân thủ các quy tắc sư phạm đã đặt ra.

Nguyên tắc này có thể áp dụng rộng rãi cho các dịch vụ công: cơ quan nhà nước cần kiểm tra xem AI có thực hiện đúng nhiệm vụ, tuân thủ giới hạn và hành xử phù hợp trong các tương tác thực tế hay không, thay vì chỉ đánh giá dựa trên việc câu trả lời nghe có vẻ thuyết phục.

An ninh mạng vừa là điều kiện nền tảng, vừa là lĩnh vực ứng dụng AI

Triết lý quản trị tương tự cũng xuất hiện trong hoạt động an ninh mạng của GovTech. Cơ quan này nêu các năng lực gồm thiết kế hệ thống an toàn, diễn tập tấn công (red team), kiểm thử xâm nhập, tiếp nhận báo cáo lỗ hổng từ cộng đồng và vận hành phòng thủ (blue team) để phát hiện, xử lý mối đe dọa.

GovTech đồng thời thử nghiệm kiểm thử xâm nhập có AI hỗ trợ và tự động phân loại, ưu tiên sự cố trong hoạt động an ninh. Như vậy, AI được triển khai ở cả hai phía của quy trình bảo mật: hỗ trợ tìm điểm yếu và giúp đội ngũ phòng thủ xác định sự cố cần xử lý trước.

Một số báo cáo đề cập tới hơn 2.000 hệ thống số của chính phủ trong bối cảnh mở rộng kiểm thử an ninh. Tuy nhiên, các tài liệu hiện có chỉ củng cố định hướng rộng hơn gồm red team, kiểm thử xâm nhập và vận hành an ninh có AI hỗ trợ; chưa đủ để khẳng định hoạt động kiểm thử AI liên tục đã được triển khai trên mọi hệ thống trong số đó.

AI phục vụ chiến lược rộng hơn của Singapore như thế nào?

Nhìn tổng thể, các sáng kiến này hướng tới ba mục tiêu liên kết với nhau:

1. Cải thiện cung cấp dịch vụ công. Trợ lý và tác tử AI có thể xử lý việc soạn thảo, phân tích, lập trình và các quy trình thường nhật, giúp công chức dành nhiều thời gian hơn cho những trường hợp phức tạp và công việc trực tiếp với người dân.
2. Tăng cường năng lực công nghệ nội bộ. Nền tảng dùng chung, công cụ đánh giá, lớp bảo mật và đào tạo giúp Singapore duy trì kiến thức vận hành trong nước, thay vì phụ thuộc hoàn toàn vào một nhà cung cấp mô hình hoặc sản phẩm thương mại.
3. Bảo vệ niềm tin công chúng và các hệ thống trọng yếu. Hệ thống đăng ký, phân quyền, khả năng kiểm toán, kiểm thử an toàn và phòng thủ mạng tạo ra cơ chế giám sát khi AI ngày càng tiếp cận nhiều hơn với công việc và dữ liệu của chính phủ.

Bài học trung tâm là mở rộng AI một cách an toàn không chỉ là bài toán của mô hình, mà còn là bài toán kiến trúc. Singapore đang cố gắng đưa AI đến với lực lượng công chức trên quy mô lớn, đồng thời bảo đảm chủ sở hữu, quyền hạn, hoạt động kiểm thử và nhật ký sử dụng vẫn nằm trong tầm nhìn của các cơ quan chịu trách nhiệm cung cấp dịch vụ công.