AI dan Risiko Stabilitas Finansial: Kekhawatiran ECB dan The Fed

AI di sektor keuangan bukan hanya chatbot. Di bank, manajer aset, dan infrastruktur pasar, AI dapat dipakai untuk menilai risiko, mengelola modal dan likuiditas, meningkatkan efisiensi operasional, memperkuat kepatuhan, melayani nasabah, dan menganalisis data; manfaat ini disebut dalam materi bank sentral dan Financial Stability Board .

European Central Bank atau ECB, yakni Bank Sentral Eropa, dalam Financial Stability Review Mei 2024 menyebut kemunculan AI generatif sebagai lompatan teknologi yang bisa berdampak besar pada sistem keuangan. Namun, manfaat dan risikonya bergantung pada bagaimana tantangan data, pengembangan model, dan penerapan ditangani di tingkat institusi maupun sistem keuangan secara keseluruhan . Federal Reserve, bank sentral Amerika Serikat yang sering disebut The Fed, membaca AI dengan nada serupa: teknologi ini berkembang cepat, sementara manfaat dan risikonya makin nyata dan jelas .

Dengan kata lain, masalahnya bukan sekadar otomatisasi. Risiko stabilitas muncul ketika banyak perusahaan memakai alat yang sebanding, bergantung pada layanan luar yang sama, atau merespons sinyal yang sama pada saat yang sama .

Yang diawasi ECB

Pemasok AI yang terlalu terkonsentrasi

ECB memberi perhatian besar pada konsentrasi. Dalam pidato pada 2024, ECB menyoroti risiko bahwa sebagian besar nilai yang diciptakan AI dapat diserap oleh segelintir perusahaan yang mendominasi ekosistem AI . Dalam analisis stabilitas Mei 2024, ECB juga menilai bahwa penggunaan AI secara luas, bila bertemu dengan pemasok yang terkonsentrasi, dapat membuat risiko operasional, termasuk risiko siber, menjadi sistemik .

Ini adalah persoalan satu titik kegagalan bersama. Jika banyak bank, dana investasi, atau perusahaan infrastruktur pasar bergantung pada penyedia model, platform cloud, atau jalur data yang sama, gangguan layanan, pembaruan yang rusak, insiden siber, atau dataset yang cacat dapat menghantam banyak lembaga sekaligus, bukan berhenti sebagai masalah satu institusi .

Perilaku kawanan di pasar

Versi pasar dari risiko konsentrasi adalah herding, atau perilaku kawanan: banyak pelaku bergerak ke arah yang sama. Sebuah kajian stabilitas keuangan memperingatkan bahwa penggunaan AI yang luas tanpa pengaman memadai dapat memicu konsentrasi risiko siber, perilaku kawanan, dan korelasi pasar yang lebih tinggi .

Dalam kondisi tenang, rekomendasi AI yang mirip bisa terlihat seperti efisiensi. Namun saat terjadi aksi jual, hal yang sama dapat menjadi prosiklis: jika banyak sistem sekaligus menyarankan pemangkasan eksposur, penambahan bantalan likuiditas, atau pengurangan aktivitas penyediaan likuiditas jual-beli, kedalaman pasar bisa menurun dan pergerakan harga menjadi lebih tajam .

Kegagalan model, data, dan penerapan

ECB juga menekankan bahwa dampak AI bergantung pada kualitas data, pengembangan model, dan pilihan penerapan atau deployment . Karena itu, tata kelola AI bukan hanya urusan teknologi informasi. Model yang tampak andal dalam kondisi normal bisa bereaksi berbeda saat menghadapi guncangan baru, dan cara penerapan menentukan apakah output yang keliru hanya menjadi peringatan internal atau langsung berubah menjadi aksi otomatis di perdagangan, kredit, modal, atau likuiditas .

Yang diawasi The Fed

Kekhawatiran The Fed banyak bertumpang tindih dengan ECB, tetapi sering dibingkai melalui supervisi, risiko pihak ketiga, dan ketahanan siber. Dalam pidato tentang AI di sistem keuangan, The Fed menyebut pengawas perlu memastikan risiko dikelola seiring berkembangnya kemampuan AI .

Ketergantungan pada vendor pihak ketiga

Riset Federal Reserve menemukan bahwa kesenjangan teknologi AI antara bank kecil dan bank besar mungkin melebar, sementara keberagaman perusahaan nonkeuangan yang menjadi penyedia layanan AI pihak ketiga mungkin terbatas . Ini mengarah pada masalah konsentrasi: lembaga yang lebih kecil dapat makin bergantung pada ekosistem vendor yang sempit, sedangkan lembaga besar mungkin punya akses lebih baik ke kemampuan AI tingkat lanjut .

Makalah Federal Reserve lain menyebut penyedia layanan pihak ketiga sebagai garis patahan siber tersembunyi dalam sistem keuangan, dengan potensi menciptakan risiko sistemik . Jika digabungkan dengan konsentrasi pemasok AI, vendor teknologi dapat menjadi saluran penularan saat tekanan pasar muncul karena banyak firma keuangan bergantung pada pihak yang sama .

Serangan siber, deepfake, dan penipuan

Risiko siber adalah salah satu jalur utama yang dikhawatirkan The Fed. Pada 2025, Michael Barr mengatakan deepfake berbasis AI dapat meniru seluruh identitas seseorang dan berpotensi memperbesar penipuan identitas; ia juga menyebut penjahat siber makin sering memakai AI generatif . Dalam pernyataan sebelumnya, The Fed memperingatkan bahwa ancaman siber dapat menjadi lebih mengganggu seiring kemajuan teknologi dan sistem keuangan yang makin saling terhubung, serta bahwa insiden siber dapat menimbulkan efek sistemik yang lebih luas .

Saat pasar sedang panik, kepercayaan dan verifikasi menjadi krusial. Penipuan berbantuan AI, komunikasi palsu, atau serangan identitas tidak harus langsung menggerakkan harga aset untuk menjadi berbahaya. Cukup dengan mengacaukan autentikasi, pembayaran, komunikasi, atau kepercayaan nasabah ketika perusahaan sedang memproses informasi yang bergerak cepat, dampaknya bisa menambah tekanan .

Keputusan yang makin dimediasi AI

Makalah staf Federal Reserve tentang AI generatif dan stabilitas keuangan mencatat bahwa manusia semakin mengandalkan AI untuk pengumpulan informasi dan pengambilan keputusan, baik sebagai kopilot maupun melalui sistem yang lebih otonom . Ketika output AI sudah tertanam dalam perdagangan, manajemen likuiditas, penilaian risiko, atau operasi perbankan, kesalahan model dapat diteruskan lewat tindakan, bukan hanya muncul sebagai catatan dalam laporan .

Bagaimana AI bisa memperbesar guncangan pasar

Jalur stres yang dikhawatirkan regulator dapat dibayangkan seperti ini.

1. Guncangan muncul. Harga turun, volatilitas naik, kabar buruk menyebar, atau insiden siber mengganggu penyedia kunci. Banyak lembaga memproses guncangan itu dengan alat AI, sumber data, atau vendor yang mirip .

2. Respons AI bergerak searah. Sistem risiko dapat menyarankan aksi serupa: memangkas eksposur, menjual aset yang sama, menaikkan buffer likuiditas, atau mengurangi aktivitas market-making. Literatur stabilitas memperingatkan bahwa penggunaan AI yang luas tanpa pengaman dapat mendorong perilaku kawanan dan korelasi pasar yang lebih tinggi .

3. Umpan balik makin cepat. Penjualan dan penarikan likuiditas menekan harga lebih jauh; harga baru itu lalu menjadi input bagi putaran sinyal risiko berikutnya. Analisis kebijakan memperingatkan bahwa AI dapat memperbesar wrong-way risk dan mempercepat krisis keuangan .

4. Infrastruktur bersama menjadi saluran penularan. ECB memperingatkan bahwa pemasok AI yang terkonsentrasi dapat membuat risiko operasional dan siber menjadi sistemik, sementara riset The Fed melihat penyedia layanan pihak ketiga sebagai garis patahan siber .

5. Kepercayaan melemah di momen terburuk. Deepfake, penipuan berbantuan AI, atau serangan siber dapat merusak autentikasi dan keyakinan ketika perusahaan, nasabah, dan lawan transaksi justru paling membutuhkan informasi yang dapat dipercaya .

Apa yang bisa mengurangi risikonya

Pengaman yang dibutuhkan mengikuti jalur risikonya. Perusahaan dan pengawas perlu memetakan ketergantungan AI yang sama, bukan hanya menilai model satu per satu, karena konsentrasi pemasok dapat mengubah pilihan teknologi di level perusahaan menjadi kerentanan di level sistem . Mereka juga perlu menguji sistem AI dalam kondisi stres, terutama ketika kualitas data, desain model, dan deployment menentukan apakah output tetap berupa saran atau berubah menjadi aksi otomatis .

Ketahanan siber dan pengelolaan pihak ketiga juga menjadi pusat perhatian. Laporan keamanan siber Federal Reserve menyebut kebijakan supervisi dan prosedur pemeriksaannya mencakup manajemen risiko TI, keamanan siber, ketahanan operasional, dan manajemen risiko pihak ketiga . Logika ECB serupa: alat yang tampak terkendali di satu lembaga tetap bisa menciptakan kerapuhan jika banyak lembaga memakai alat itu dengan cara yang sama atau bergantung pada pemasok yang sama .

Kesimpulan

ECB dan The Fed tidak menempatkan AI sebagai pemantik krisis yang pasti terjadi. Peringatannya lebih spesifik: risiko stabilitas keuangan meningkat ketika adopsi AI meluas, pemasok terkonsentrasi, model sulit divalidasi, dan banyak lembaga bereaksi cepat terhadap sinyal yang sama .

Dalam guncangan pasar, kekuatan AI juga bisa menjadi kelemahannya. Kecepatan, skala, dan optimisasi membantu tiap perusahaan merespons lebih cepat, tetapi di level sistem dapat memunculkan penjualan serempak, likuiditas yang menipis, gangguan siber, dan hilangnya kepercayaan yang lebih cepat .