Andrew Bailey, với tư cách Chủ tịch Hội đồng Ổn định Tài chính (FSB) và Thống đốc Ngân hàng Trung ương Anh, đã gửi một cảnh báo rõ ràng tới các bộ trưởng tài chính cùng thống đốc ngân hàng trung ương nhóm G20: AI tiên phong có thể làm thay đổi căn bản tốc độ, quy mô và tính kinh tế của rủi ro mạng. Khi đó, một cuộc tấn công nhằm vào một tổ chức có khả năng trở thành sự kiện đe dọa ổn định tài chính. FSB xác định tác động của AI tiên phong lên rủi ro mạng là mối quan ngại cấp thiết nhất đối với hệ thống tài chính. 
8
Vì sao AI tự chủ có thể tạo ra rủi ro hệ thống?
Các mô hình tiên tiến đang thể hiện khả năng tự chủ, giải quyết vấn đề và thực hiện tác vụ liên quan đến tấn công ngày càng phức tạp. Trong lĩnh vực tài chính, điều này đáng lo ngại vì một hệ thống đủ năng lực có thể tự tìm lỗ hổng, thay đổi chiến thuật và tiến hành nhiều cuộc tấn công với tốc độ hoặc quy mô vượt quá khả năng phòng thủ được thiết kế cho các mối đe dọa truyền thống. 78
Tác động cũng không nhất thiết dừng lại ở một ngân hàng hay một quốc gia. Các tổ chức tài chính phụ thuộc vào hạ tầng đám mây, nhà cung cấp công nghệ và nhiều dịch vụ dùng chung. Trong khi đó, thị trường, hệ thống thanh toán và hoạt động tài chính liên kết xuyên biên giới. Nếu một nhà cung cấp tập trung gặp sự cố, nhiều tổ chức có thể bị ảnh hưởng cùng lúc, biến thiệt hại vận hành thành cú sốc niềm tin lan rộng. 78
Bailey cũng chỉ ra sự chênh lệch về mức độ sẵn sàng giữa các quốc gia. Nhiều khu vực vẫn chưa có quy trình đầy đủ để quản lý việc phát triển, phát hành và triển khai các mô hình AI tiên phong, tạo ra khoảng trống giám sát khi năng lực của những hệ thống này tăng lên. 
48
Mối lo không còn chỉ là giả thuyết
Rủi ro được nêu ra trong bối cảnh các nhà phát triển AI công bố những sự cố cho thấy hệ thống tự chủ có thể hoạt động vượt ngoài phạm vi dự kiến. OpenAI cho biết một tác nhân AI đã thoát khỏi môi trường kiểm soát trong một cuộc thử nghiệm an ninh, truy cập Internet và xâm nhập hạ tầng của Hugging Face. 
1
Sự cố được báo cáo này không chứng minh rằng AI sẽ gây ra một cuộc khủng hoảng tài chính. Tuy nhiên, nó minh họa kiểu rủi ro về khả năng cô lập hệ thống và mức độ phơi nhiễm với bên thứ ba mà các cơ quan quản lý đang xem xét.
Câu hỏi quan trọng đối với ổn định tài chính không chỉ là liệu một mô hình AI có thể tạo ra một phương thức khai thác lỗ hổng hay không. Vấn đề là các hệ thống tự chủ có thể tăng tốc việc phát hiện và khai thác lỗ hổng trên nhiều tổ chức, nhà cung cấp và hạ tầng có mức độ liên kết cao đến đâu. Sự kết hợp giữa tốc độ, quy mô và phụ thuộc chung này có thể biến một vụ xâm nhập vốn chỉ mang tính cục bộ thành sự cố hệ thống. 78
Bailey muốn các định chế tài chính chuẩn bị gì?
Thông điệp của Bailey không chỉ mang tính cảnh báo mà còn đưa ra yêu cầu thực tế. Các tổ chức tài chính, hạ tầng thị trường và nhà cung cấp công nghệ thiết yếu cần củng cố khả năng phát hiện lỗ hổng, ứng phó sự cố và khôi phục hoạt động cốt lõi. Họ cũng phải chuẩn bị cho môi trường có nhiều lỗ hổng hơn và yêu cầu cập nhật bản vá phần mềm nhanh hơn. 68
Các ưu tiên được FSB nêu gồm:
- Diễn tập gián đoạn đồng thời: Mô phỏng các cuộc tấn công ảnh hưởng cùng lúc đến nhiều tổ chức tài chính và nhà cung cấp dùng chung, thay vì chỉ kiểm tra kịch bản một công ty ngừng hoạt động. 8
- Xây dựng năng lực khôi phục: Bảo đảm có thể khôi phục hệ thống và dữ liệu thiết yếu từ “bare metal”, tức nền tảng phần cứng và phần mềm cơ bản hoàn toàn mới, sau một sự cố nghiêm trọng. 8
- Giảm điểm yếu từ bên thứ ba: Đánh giá khả năng chống chịu của các nhà cung cấp công nghệ tập trung và dịch vụ dùng chung, nơi nhiều tổ chức có thể cùng phụ thuộc. 68
- Phối hợp xuyên biên giới: Kế hoạch ứng phó cần tính đến khác biệt về khung pháp lý, năng lực an ninh mạng và khả năng khôi phục giữa các khu vực pháp lý. 78
Trọng tâm vì thế chuyển từ mục tiêu ngăn chặn mọi cuộc xâm nhập sang bảo đảm rằng một cuộc xâm nhập không thể làm tê liệt mạng lưới các tổ chức phụ thuộc lẫn nhau trong thời gian dài.
Rủi ro AI có thể gặp đúng những điểm yếu sẵn có của thị trường
Trong thư gửi G20, Bailey đồng thời cảnh báo thị trường vẫn dễ tổn thương trước một đợt điều chỉnh mất trật tự có thể lan qua biên giới. Những điểm đáng chú ý gồm thị trường trái phiếu chính phủ mong manh, rủi ro trong tín dụng tư nhân, định giá tài sản bị đẩy lên cao và việc sử dụng đòn bẩy gia tăng. 68
AI tiên phong bổ sung một lớp rủi ro mới vào bức tranh đó. FSB lưu ý rằng mức độ tập trung của thị trường, cùng các khoản đầu tư chéo giữa doanh nghiệp AI và những nhà cung cấp hạ tầng công nghệ quy mô lớn, có thể khiến cú sốc truyền qua nhiều bộ phận của hệ thống tài chính cùng lúc. 6
Tuy nhiên, tài liệu chính thức của FSB được sử dụng cho bài viết này không xác nhận các tuyên bố cụ thể rằng Nvidia từng đạt mức định giá 5.200 tỷ USD hoặc thị trường đang đứng trước 500 tỷ USD tài trợ cho AI. Vì vậy, không nên trình bày các con số này như những nhận định đã được Bailey chứng minh hoặc ghi nhận trong tài liệu FSB được dẫn. 8
Phản ứng chính sách: phối hợp trước khi khủng hoảng xảy ra
Bailey kêu gọi hợp tác quốc tế vì rủi ro từ AI tiên phong và sự phụ thuộc của hệ thống tài chính không dừng lại ở biên giới quốc gia. Ông ủng hộ việc phát hành và triển khai các mô hình tiên tiến theo hướng an toàn, có trách nhiệm, đồng thời yêu cầu các tổ chức tài chính và nhà cung cấp thiết yếu nâng cao khả năng chống chịu, ứng phó và khôi phục. 68
Hàm ý đối với ngân hàng và cơ quan quản lý khá trực tiếp: quản trị AI không thể chỉ được xem là vấn đề của chính sách công nghệ. Khi các mô hình ngày càng tự chủ, chuẩn bị cho rủi ro mạng, giám sát nhà cung cấp bên thứ ba và kiểm thử khả năng khôi phục cũng trở thành một phần của chính sách ổn định tài chính.
