Bank Sentral ng Pilipinas (BSP) mengeluarkan pedoman sukarela terkait penggunaan kecerdasan buatan untuk bank dan operator e-wallet melalui Memorandum No. M-2026-031, yang menetapkan ekspektasi pengawasan minimum untuk penerapan AI yang bertanggung jawab. Pedoman tersebut membahas bagaimana lembaga keuangan harus menangani sistem AI yang sudah menganalisis pola pembayaran, memverifikasi identitas nasabah, serta mendeteksi penipuan di seluruh Filipina. Deputi Gubernur Lyn Javier mengatakan dalam rilis pers pada Selasa, 14 Juli, bahwa prinsip-prinsip tersebut membantu lembaga berinovasi sambil mengurangi konsekuensi tak diinginkan dari teknologi AI. Memorandum ini memperkenalkan prinsip tata kelola saat penggunaan AI meluas di layanan keuangan Filipina, di mana survei BSP tahun 2024 menemukan 44% dari institusi yang merespons telah menerapkan setidaknya satu sistem AI.
BSP Menetapkan Prinsip Tata Kelola STARS untuk Sistem AI
BSP memperkenalkan lima prinsip tata kelola yang dirangkum dalam akronim STARS: sustainability, transparency, accountability, responsibility, dan security. Deputi Gubernur Lyn Javier menyatakan bahwa STARS memberi institusi keuangan prinsip untuk berinovasi sambil mengurangi konsekuensi tak diinginkan dari teknologi AI. Memorandum tersebut mewajibkan agar pelanggan diberi tahu ketika keluaran AI digunakan dalam produk atau proses, dengan institusi mengungkapkan batasan yang relevan saat hasil AI dapat disalahartikan atau disalahgunakan. Pengguna harus dapat mempertanyakan bagaimana suatu keluaran diproduksi dan mengapa rekomendasi dibuat.
Dalam survei BSP tahun 2024, 21 dari 48 institusi keuangan yang merespons telah menerapkan setidaknya satu sistem AI, sementara 60% memasukkan AI atau machine learning dalam peta jalan teknologi mereka. Penggunaan yang umum mencakup pemantauan penipuan dan anti-pencucian uang, pemeriksaan elektronik kenali nasabah Anda, penilaian risiko kredit, rekomendasi produk yang dipersonalisasi, serta alat generative AI. GCash mengungkapkan bahwa AI dan machine learning membantu mendeteksi penipuan, fraud, risiko pencucian uang, dan akses tanpa otorisasi, sambil menganalisis pola transaksi untuk menentukan kesesuaian layanan. UnionBank menggunakan AI pada chatbot yang berhadapan dengan nasabah, untuk membantu karyawan dalam pengambilan keputusan terkait akun, serta untuk deteksi fraud secara real-time.
Lembaga Keuangan Harus Mempertahankan Pengawasan Manusia dalam Keputusan AI
Memorandum BSP menyatakan bahwa manusia tetap menjadi pihak yang bertanggung jawab sepenuhnya atas keputusan yang dibuat dengan bantuan AI. Pedoman tersebut menjelaskan bahwa meskipun sistem AI memberikan rekomendasi, manusia tetap bertanggung jawab sepenuhnya atas keputusan yang dibuat, dan keluaran AI tidak boleh menggantikan atau mengurangi tanggung jawab manusia. BSP tidak melarang secara eksplisit penggunaan AI dalam keputusan kredit, sehingga algoritme dapat menganalisis pendapatan peminjam, transaksi, perilaku pembayaran, atau data lain dan merekomendasikan apakah pengajuan harus disetujui atau ditolak.
Lembaga keuangan tidak boleh menyerahkan tanggung jawab akhir kepada mesin dan harus menetapkan pengaman, menetapkan kepemilikan yang jelas atas sistem AI, serta memantau hasil untuk kesalahan dan hasil yang tidak adil. Bank dan e-wallet harus mempertahankan pengawasan manusia sepanjang proses berbasis bantuan AI, dengan orang atau tim yang tetap bertanggung jawab atas keputusan final.
BSP Menangani Pencegahan Bias dalam Data Pelatihan AI
BSP mengakui dalam memorandumnya bahwa sistem AI dapat melanggengkan bias, yang mengarah pada praktik yang tidak adil dan pengecualian individu dari akses terhadap produk dan layanan keuangan. Risiko ini muncul ketika model AI dilatih menggunakan informasi yang tidak lengkap, tidak akurat, atau tidak mewakili, yang berpotensi merugikan peminjam berpendapatan rendah, minoritas, konsumen rentan, atau orang yang aksesnya terbatas ke layanan keuangan formal.
BSP merekomendasikan agar data pelatihan disiapkan dengan baik, direpresentasikan secara adil, dan bebas dari campur tangan tanpa otorisasi, sambil memastikan sistem AI tidak menimbulkan dampak berbahaya pada kelompok mana pun, terutama kelompok minoritas atau rentan. Institusi harus melindungi data pribadi, menyediakan mekanisme opt-in atau opt-out yang jelas bila berlaku, serta memantau sistem untuk halusinasi, atau kondisi ketika generative AI menghasilkan informasi palsu atau dibuat-buat.
Pedoman Tetap Sukarela Tanpa Batas Waktu Kepatuhan
BSP memilih panduan yang bersifat sukarela dan berbasis prinsip karena institusi berbeda secara luas dalam ukuran, kemampuan teknologi, dan sejauh mana mereka menggunakan AI. Pedoman tersebut tidak mengikat, artinya lembaga keuangan didorong tetapi tidak diwajibkan secara tegas untuk mengadopsinya. Saat ini, tidak ada batas waktu kepatuhan yang spesifik atau penalti karena gagal mengadopsi kerangka kerja tata kelola AI yang formal.
BSP menyatakan akan memantau perkembangan di bidang tersebut dan, kapan pun diperlukan, mengeluarkan regulasi atau kebijakan yang sesuai untuk mendorong inovasi serta menjaga stabilitas dan daya saing sistem keuangan, sambil membuka kemungkinan bahwa pedoman sukarela saat ini pada akhirnya dapat menjadi dasar bagi aturan yang lebih ketat dan dapat ditegakkan.
FAQ
Bisakah AI menolak pengajuan pinjaman bank di Filipina?
AI dapat menganalisis data peminjam dan merekomendasikan persetujuan atau penolakan pinjaman, tetapi BSP mensyaratkan bahwa manusia tetap bertanggung jawab sepenuhnya atas keputusan final. Lembaga keuangan tidak dapat menyerahkan tanggung jawab sepenuhnya kepada mesin dan harus mempertahankan pengawasan manusia, menetapkan pengaman, serta memantau hasil AI untuk kesalahan dan hasil yang tidak adil.
Apa yang harus diungkapkan bank-bank Filipina tentang sistem AI mereka?
Bank dan operator e-wallet harus memberi tahu pelanggan ketika keluaran AI digunakan dalam produk atau proses serta mengungkapkan batasan yang relevan, khususnya saat hasil dapat disalahartikan atau disalahgunakan. Pengguna harus dapat mempertanyakan bagaimana keluaran diproduksi dan mengapa rekomendasi dibuat, menurut Memorandum BSP No. M-2026-031.
