أصدرت هيئة بنك الفلبين المركزي، Bangko Sentral ng Pilipinas (BSP)، إرشادات طوعية لاستخدام الذكاء الاصطناعي لدى البنوك وشغّالي المحافظ الإلكترونية، وذلك عبر المذكرة رقم M-2026-031، التي تحدد الحد الأدنى من توقعات الإشراف لتطبيق الذكاء الاصطناعي بمسؤولية. تتناول الإرشادات كيفية تعامل المؤسسات المالية مع أنظمة الذكاء الاصطناعي التي بدأت بالفعل في تحليل أنماط المدفوعات، والتحقق من هويات العملاء، واكتشاف الاحتيال عبر أنحاء الفلبين. قال نائب محافظ BSP، لين خافيير، في بيان صحفي يوم الثلاثاء، 14 يوليو، إن المبادئ تساعد المؤسسات على الابتكار مع التخفيف من النتائج غير المقصودة الناشئة عن تقنيات الذكاء الاصطناعي. تقدم المذكرة مبادئ حوكمة، بينما يتوسع استخدام الذكاء الاصطناعي في الخدمات المالية الفلبينية؛ إذ وجدت دراسة استقصائية أجرتها BSP في 2024 أن 44% من المؤسسات التي ردّت كانت قد أدخلت على الأقل نظام ذكاء اصطناعي واحد.
BSP تُرسّخ مبادئ حوكمة STARS لأنظمة الذكاء الاصطناعي
قدمت BSP خمس مبادئ حوكمة، لخصتها الأحرف STARS: الاستدامة (sustainability)، والشفافية (transparency)، والمساءلة (accountability)، والمسؤولية (responsibility)، والأمن (security). قال نائب المحافظ لين خافيير إن STARS يوفر للمؤسسات المالية مبادئ للابتكار مع التخفيف من النتائج غير المقصودة من تكنولوجيا الذكاء الاصطناعي. تنص المذكرة على ضرورة إبلاغ العملاء عند استخدام مخرجات الذكاء الاصطناعي في منتج أو عملية، مع قيام المؤسسات بالإفصاح عن القيود ذات الصلة عندما قد تؤدي نتائج الذكاء الاصطناعي إلى سوء فهم أو إساءة استخدام. يجب أن يتمكن المستخدمون من الاعتراض على كيفية إنتاج المخرجات ولماذا تم تقديم التوصية.
في دراسة BSP لعام 2024، كان لدى 21 من أصل 48 مؤسسة مالية من بين المشارِكات التي ردّت قد أدخلت على الأقل نظام ذكاء اصطناعي واحد، بينما ضمت 60% إدراج الذكاء الاصطناعي أو التعلم الآلي ضمن خرائطها التقنية. ومن الاستخدامات الشائعة مراقبة الاحتيال، ومكافحة غسل الأموال، والتحقق الإلكتروني من معرفة العميل، وتقييم مخاطر الائتمان، والتوصيات الشخصية للمنتجات، وأدوات الذكاء الاصطناعي التوليدي. كشفت GCash أن الذكاء الاصطناعي والتعلم الآلي يساعدان على كشف عمليات الاحتيال، وغسل الأموال، ومخاطرها، وكذلك الوصول غير المصرح به، إلى جانب تحليل أنماط المعاملات لتحديد مدى ملاءمة الخدمة. يستخدم UnionBank الذكاء الاصطناعي في روبوتات الدردشة الموجهة للعملاء، لمساعدة الموظفين في اتخاذ قرارات تتعلق بالحسابات، وللكشف عن الاحتيال في الوقت الفعلي.
المؤسسات المالية يجب أن تحافظ على الرقابة البشرية في قرارات الذكاء الاصطناعي
تنص مذكرة BSP على أن البشر يظلون في نهاية المطاف مسؤولين عن القرارات التي تُتخذ بمساعدة الذكاء الاصطناعي. وتحدد الإرشادات أنه رغم أن أنظمة الذكاء الاصطناعي تقدم توصيات، فإن البشر يظلون مسؤولين في نهاية المطاف عن القرارات المتخذة، ولا ينبغي أن تحل مخرجات الذكاء الاصطناعي محل المسؤولية البشرية أو تقلل منها. لا تحظر BSP بشكل صريح استخدام الذكاء الاصطناعي في قرارات الائتمان، مما يسمح للخوارزميات بتحليل دخل المقتَرِضين والمعاملات وسلوكيات الدفع أو غير ذلك من البيانات، ثم التوصية بما إذا كان ينبغي الموافقة على طلبات التقديم أو رفضها.
لا يجوز للمؤسسات المالية أن تترك المسؤولية النهائية للآلات، بل يتعين عليها وضع ضوابط وحواجز، وتحديد ملكية واضحة لأنظمة الذكاء الاصطناعي، ومراقبة النتائج بحثًا عن الأخطاء والنتائج غير العادلة. يجب أن تحافظ البنوك والمحافظ الإلكترونية على رقابة بشرية طوال العمليات المدعومة بالذكاء الاصطناعي، مع بقاء أشخاص أو فرق مسؤولين عن القرارات النهائية.
BSP تتناول منع الانحياز في بيانات تدريب الذكاء الاصطناعي
أقرت BSP في مذكرتها بأن أنظمة الذكاء الاصطناعي قد تعيد إنتاج الانحيازات، ما يؤدي إلى ممارسات غير عادلة واستبعاد أفراد من الوصول إلى المنتجات والخدمات المالية. ينشأ هذا الخطر عندما تُدرَّب نماذج الذكاء الاصطناعي باستخدام معلومات ناقصة أو غير دقيقة أو غير ممثلة، ما قد يضعف فرص المقتَرِضين ذوي الدخل المنخفض، أو الأقليات، أو المستهلكين الأكثر ضعفًا، أو الأشخاص ذوي محدودية الوصول إلى الخدمات المالية الرسمية.
أوصت BSP بأن تكون بيانات التدريب مُحضَّرة جيدًا، وممثلة تمثيلًا مناسبًا، وخالية من التدخل غير المصرح به، مع ضمان ألا تسبب أنظمة الذكاء الاصطناعي آثارًا ضارة على أي فئة ديموغرافية، خصوصًا المجموعات ذات الأقليات أو الفئات الضعيفة. يتعين على المؤسسات حماية البيانات الشخصية، وتوفير آليات واضحة للاختيار (الموافقة أو الرفض) حيثما ينطبق ذلك، ومراقبة الأنظمة بحثًا عن الهلاوس، أي حالات ينتج فيها الذكاء الاصطناعي التوليدي معلومات خاطئة أو مُختلقة.
الإرشادات تظل طوعية دون موعد نهائي للالتزام
اختارت BSP تقديم إرشادات طوعية قائمة على المبادئ، لأن المؤسسات تختلف على نطاق واسع في حجمها، وقدرتها التكنولوجية، ومدى استخدامها للذكاء الاصطناعي. الإرشادات غير ملزمة، ما يعني أن المؤسسات يُشجَّع على اعتمادها لكن لا يُطلب منها ذلك صراحةً. ولا يوجد حاليًا موعد محدد للالتزام أو عقوبة في حال عدم اعتماد إطار رسمي لحوكمة الذكاء الاصطناعي.
قالت BSP إنها ستراقب التطورات في هذا المجال، وعند الحاجة ستصدر لوائح أو سياسات مناسبة لتعزيز الابتكار، والحفاظ على استقرار ونفاذية النظام المالي التنافسي، مع ترك الباب مفتوحًا لاحتمال أن تتحول الإرشادات الطوعية الحالية في نهاية المطاف إلى أساس لقواعد أكثر صرامة وقابلة للتنفيذ.
الأسئلة الشائعة
هل يمكن للذكاء الاصطناعي رفض طلب قرض بنكي في الفلبين؟
قد يحلل الذكاء الاصطناعي بيانات المقتَرِض ويقترح الموافقة على القرض أو رفضه، لكن BSP تشترط أن يظل البشر مسؤولين في نهاية المطاف عن القرارات النهائية. لا يجوز للمؤسسات المالية أن تترك المسؤولية وحدها للآلات، ويجب عليها الحفاظ على الرقابة البشرية، ووضع ضوابط وحواجز، ومراقبة نتائج الذكاء الاصطناعي بحثًا عن الأخطاء والنتائج غير العادلة.
ما الذي يجب على البنوك الفلبينية الإفصاح عنه بشأن أنظمة الذكاء الاصطناعي لديها؟
يجب على البنوك وشغّالي المحافظ الإلكترونية إخطار العملاء عند استخدام مخرجات الذكاء الاصطناعي في منتج أو عملية، والإفصاح عن القيود ذات الصلة، خاصة عندما قد تؤدي النتائج إلى سوء فهم أو إساءة استخدام. يجب أن يتمكن المستخدمون من الطعن في كيفية إنتاج المخرجات ولماذا تم تقديم التوصيات، وفقًا للمذكرة رقم M-2026-031 الصادرة عن BSP.
