Câu trả lờiĐã xuất bản19 nguồn
AI “bóng tối” ở Singapore: Khoảng cách giữa sử dụng và quản trị ngày càng rõ
Thách thức về AI “bóng tối” không chỉ là thiếu quy định: 18% tổ chức Singapore được khảo sát có chính sách cấm công cụ AI trái phép nhưng không có cách phát hiện vi phạm. 60% người làm DevSecOps tại Singapore xem quản trị và thực thi chính sách là gánh nặng thời gian lớn nhất; 41% cho biết rà soát mã do AI tạo ra tố...
Đăng bởiBiên tập bằng GPT-6 LunaHình ảnh được tạo bằng GPT Image 2
Câu trả lời nghiên cứu
Bài học chính
- Thách thức về AI “bóng tối” không chỉ là thiếu quy định: 18% tổ chức Singapore được khảo sát có chính sách cấm công cụ AI trái phép nhưng không có cách phát hiện vi phạm.
- 60% người làm DevSecOps tại Singapore xem quản trị và thực thi chính sách là gánh nặng thời gian lớn nhất; 41% cho biết rà soát mã do AI tạo ra tốn nhiều nguồn lực.
- Muốn quản trị hiệu quả, doanh nghiệp cần theo dõi cả mô hình AI, gói mã nguồn mở và dịch vụ bên thứ ba, chứ không chỉ mã do nội bộ viết.
Prompt AI
openai.comCreate a landscape editorial hero image for this Studio Global article: How is employee adoption of shadow AI outpacing governance controls in Singapore companies, and what do JFrog’s Sunny Rao and Splunk’s Chris. Article summary: Employee use of unapproved AI is moving faster than Singapore companies can discover it, review its outputs and enforce internal rules, creating a gap between written governance and operational control. The reported cons. Topic tags: general, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fa
Nhân viên có thể bắt đầu dùng một công cụ AI cho công việc chỉ trong vài phút. Nhưng để doanh nghiệp biết công cụ đó đang được dùng ở đâu, dữ liệu nào được đưa vào và kết quả tạo ra có an toàn hay không, thường cần đến quy trình, nhân lực và hệ thống kiểm soát. Tại Singapore, các số liệu khảo sát cho thấy khoảng cách giữa việc ban hành chính sách và thực thi chính sách trong thực tế. 3
5
6
Có quy định chưa đồng nghĩa với kiểm soát được
AI “bóng tối” (shadow AI) là các công cụ AI được dùng cho công việc nhưng chưa được tổ chức phê duyệt hoặc giám sát. Nhân viên có thể tìm đến chúng để xử lý việc nhanh hơn, trong khi bộ phận CNTT và an ninh mạng không có cái nhìn đầy đủ về cách sử dụng hay dữ liệu được chia sẻ. 14
Điểm mấu chốt là một văn bản quy định không tự cho biết nhân viên có tuân thủ hay không, cũng không giúp doanh nghiệp phát hiện việc sử dụng ngoài danh sách được phép. Theo nghiên cứu của JFrog, 18% tổ chức Singapore được khảo sát có chính sách chống sử dụng công cụ AI trái phép nhưng thiếu cơ chế phát hiện vi phạm. 3
Phát triển phần mềm nhanh hơn, áp lực rà soát lớn hơn
Một ứng dụng hiện đại thường không chỉ gồm mã do đội ngũ nội bộ viết. Ứng dụng có thể kết hợp các gói mã nguồn mở, dịch vụ đám mây, mã do AI tạo, mô hình AI và công cụ của bên thứ ba. Mỗi thành phần đều cần được theo dõi và đánh giá trong quá trình xây dựng, vận hành ứng dụng. 5
Các kết quả khảo sát của JFrog cho thấy khối lượng công việc liên quan đến quản trị là đáng kể: 60% người làm DevSecOps tại Singapore xem quản trị và thực thi chính sách là gánh nặng thời gian lớn nhất; 41% cho biết việc rà soát mã do AI tạo ra tiêu tốn nhiều nguồn lực. 5 Đây là những áp lực được người tham gia khảo sát nêu ra, không có nghĩa mọi doanh nghiệp đều đối mặt với mức rủi ro như nhau.
Khả năng chuẩn bị hồ sơ kiểm toán cũng là một thách thức. Một báo cáo riêng về nghiên cứu của JFrog tại Singapore cho biết 54% người trả lời cần ít nhất một tuần để chuẩn bị bằng chứng tuân thủ cho một ứng dụng. 7 Biết ai chịu trách nhiệm về ứng dụng là chưa đủ nếu doanh nghiệp không thể nhanh chóng tập hợp thông tin về các thành phần và tình trạng tuân thủ của ứng dụng đó.
Rủi ro không dừng ở việc kiểm tra mã
Khi công cụ AI chưa được phê duyệt nằm ngoài tầm giám sát của bộ phận an ninh, nhân viên có thể vô tình đưa thông tin nhạy cảm—chẳng hạn mã nguồn hoặc dữ liệu khách hàng—vào công cụ đó. Hướng dẫn an ninh cũng cảnh báo nguy cơ dữ liệu nhạy cảm bị chuyển ra ngoài phạm vi kiểm soát của tổ chức khi nhân viên dùng AI “bóng tối”. 23
24
Mã và nội dung do AI tạo ra cũng cần được kiểm tra trước khi đưa vào sử dụng. Số liệu tại Singapore cho thấy việc rà soát mã AI có thể tiêu tốn đáng kể nguồn lực, nhưng những bằng chứng được dẫn ở đây không cho biết lỗi xuất hiện với tần suất bao nhiêu hay thường đến được khách hàng hoặc hệ thống trọng yếu hay không. 5
Chỉ ban hành lệnh cấm cũng không giải quyết được điểm mù nếu nhân viên vẫn tiếp tục dùng công cụ mà doanh nghiệp không thể phát hiện. Số liệu về khả năng thực thi cho thấy ưu tiên thực tế là phải nhận diện được hoạt động sử dụng AI và áp dụng quy tắc trong vận hành, thay vì chỉ ghi rõ điều gì bị cấm. 3
Quản trị cả chuỗi cung ứng phần mềm
Sunny Rao của JFrog mô tả ứng dụng hiện đại là sự kết hợp giữa mã nội bộ, gói mã nguồn mở, dịch vụ đám mây, mã do AI tạo, mô hình AI và công cụ bên thứ ba. Cách nhìn này mở rộng phạm vi bảo mật: doanh nghiệp cần quan tâm đến toàn bộ thành phần tham gia tạo nên ứng dụng, chứ không riêng mã nguồn do nhân viên viết. 5
Christine Low của Splunk nêu một vấn đề liên quan: khi muốn mở rộng việc ứng dụng AI, các tổ chức phải xử lý yêu cầu tuân thủ, quản trị dữ liệu và gánh nặng vận hành do thay đổi liên tục. 4 Hai góc nhìn cho thấy giám sát AI không chỉ là việc của đội ngũ phát triển; doanh nghiệp còn cần quản lý dữ liệu và các thành phần phụ thuộc khi hệ thống thay đổi.
Doanh nghiệp có thể bắt đầu từ đâu?
Một hướng tiếp cận thực tế là gắn khả năng quan sát với những biện pháp kiểm soát có thể thực thi:
- Theo dõi các thành phần trong ứng dụng: lập danh mục cả mô hình AI, gói phần mềm và các thành phần khác bên cạnh mã do nội bộ viết.
5
8
- Biến chính sách thành quy tắc có thể phát hiện và áp dụng: con số 18% cho thấy quy định cần đi kèm cơ chế nhận diện việc dùng công cụ AI trái phép.
3
- Giúp việc chuẩn bị bằng chứng tuân thủ nhanh hơn: thời gian được báo cáo cho thấy chỉ lưu hồ sơ người phụ trách có thể chưa đủ; đội ngũ cần dễ dàng truy cập thông tin về thành phần ứng dụng và hoạt động quản trị.
7
- Đưa việc rà soát đầu ra AI vào quy trình bảo mật phần mềm: mã do AI tạo cần được đánh giá như một thành phần của phần mềm, thay vì mặc định rằng tạo mã nhanh hơn đồng nghĩa với triển khai an toàn nhanh hơn.
JFrog đề xuất quản trị mô hình, gói phần mềm, plugin và sản phẩm do AI tạo ra thông qua một hệ thống ghi nhận chung. 8 Dù chọn công cụ nào, yêu cầu cốt lõi vẫn là kết nối những gì doanh nghiệp nhìn thấy với những biện pháp kiểm soát doanh nghiệp có thể thực thi, trên toàn bộ chuỗi cung ứng phần mềm và AI.
Studio Global AI
Tiếp tục nghiên cứu của bạn
Trang này bao gồm câu trả lời dựa trên nguồn mà bạn có thể tiếp tục bên trong Studio Global.
Người ta cũng hỏi
Câu trả lời ngắn gọn cho "AI “bóng tối” ở Singapore: Khoảng cách giữa sử dụng và quản trị ngày càng rõ" là gì?
Thách thức về AI “bóng tối” không chỉ là thiếu quy định: 18% tổ chức Singapore được khảo sát có chính sách cấm công cụ AI trái phép nhưng không có cách phát hiện vi phạm.
Những điểm chính cần xác nhận đầu tiên là gì?
Thách thức về AI “bóng tối” không chỉ là thiếu quy định: 18% tổ chức Singapore được khảo sát có chính sách cấm công cụ AI trái phép nhưng không có cách phát hiện vi phạm. 60% người làm DevSecOps tại Singapore xem quản trị và thực thi chính sách là gánh nặng thời gian lớn nhất; 41% cho biết rà soát mã do AI tạo ra tốn nhiều nguồn lực.
Tôi nên làm gì tiếp theo trong thực tế?
Muốn quản trị hiệu quả, doanh nghiệp cần theo dõi cả mô hình AI, gói mã nguồn mở và dịch vụ bên thứ ba, chứ không chỉ mã do nội bộ viết.
Nguồn
frontier-enterprise.comSingapore's innovation faces a new risk: Shadow AI