تواجه البنوك تحديات أخطاء الذكاء الاصطناعي، والتنظيم، والأمن.

مقدمة

يعيد الذكاء الاصطناعي تشكيل قطاع الخدمات المالية، حيث تحقق البنوك من خلاله معالجة أسرع للمعاملات، وتقييمًا أكثر دقة للمخاطر، وخدمة عملاء أكثر كفاءة. ومع ذلك، فإن الزيادة في السرعة والبصيرة تصاحبها مخاوف بشأن أخطاء الذكاء الاصطناعي، وغياب المساءلة، والتعرض للأمن السيبراني، وتأخر التنظيم. وفقًا لتقرير فوربس، في مؤتمر "Imagination in Action" الذي عُقد في بوسطن، ناقش خبراء الصناعة بعمق كيفية تعامل البنوك مع هذه التحديات، مع التأكيد على أهمية آليات المساءلة، وشفافية التنظيم، والرقابة التقنية.

خلفية الصناعة

يسرع القطاع المصرفي العالمي من نشر الذكاء الاصطناعي، ليشمل مجالات مكافحة الاحتيال، وتسجيل الائتمان، ومراقبة المعاملات، وروبوتات خدمة العملاء. أدى إدخال نماذج اللغات الكبيرة (LLMs) وأنظمة الشبكات العصبية إلى تحقيق مكاسب غير مسبوقة في الكفاءة، لكنه أدخل أيضًا مخاطر جديدة: يمكن للنماذج أن تنتج هلوسات (hallucination)، وانجراف البيانات (data drift)، وضعف الأداء في السيناريوهات خارج التوزيع. تعتمد الممارسات الصناعية عادةً على طبقات متعددة من التحكم - التحقق من المدخلات، ومجموعات بيانات التحقق، وحلقات المراجعة البشرية، واختبار الفريق الأحمر - لتقليل الأخطاء التشغيلية. ومع ذلك، مع زيادة استقلالية الذكاء الاصطناعي، تصبح سلسلة المساءلة أكثر تعقيدًا.

بدأت الهيئات التنظيمية أيضًا في الاهتمام بحوكمة الذكاء الاصطناعي المالي. يصنف قانون الذكاء الاصطناعي للاتحاد الأوروبي تطبيقات الذكاء الاصطناعي عالية المخاطر كأولوية تنظيمية، ويتطلب الشفافية والتوثيق. وتضع هيئة السلوك المالي البريطانية (FCA) والهيئات التنظيمية الأمريكية إرشادات ذات صلة. الضغوط التي تواجهها البنوك ليست فقط على المستوى التقني، بل تشمل أيضًا الامتثال والمخاطر السمعة.

التطورات الحالية

أفاد الصحفي في فوربس جون ويرنر عن حلقة نقاش ضمن مؤتمر "Imagination in Action" الذي عُقد في بوسطن في أبريل الماضي. ضم المشاركون سيليستينو أموري من IlliquidX.AI، وميكيل نوغير من معهد الذكاء الاصطناعي المالي، وبريان بيلتونن من Parcosm AI. ركزت المناقشة على ثلاث قضايا أساسية:

• سلسلة المساءلة: عندما يتسبب الذكاء الاصطناعي في ضرر، كيف تنتقل المسؤولية بين المطورين والشركات والإدارة والمنفذين النهائيين؟ أشار المشاركون إلى أنه مع زيادة استقلالية الذكاء الاصطناعي، تتوزع المسؤولية بين شركات التأمين والمسؤولين التنفيذيين وبناة الأنظمة.
• الإطار التنظيمي: تضع الحكومات قواعد لاستخدام الذكاء الاصطناعي عالي المخاطر، وتتطلب الشفافية والتوثيق. سيشمل التنظيم دورة الحياة الكاملة من تطوير النموذج إلى النشر.
• الرقابة التقنية: أكد أموري على أهمية "ضوابط الاحتواء" (containment controls) - أي وضع حدود ونقاط تدخل واضحة في أنظمة الذكاء الاصطناعي لمنع السلوك غير المنضبط.

تعكس هذه المناقشات القلق العام في الصناعة بشأن إدارة مخاطر الذكاء الاصطناعي. على الرغم من أن الذكاء الاصطناعي يوفر السرعة والبصيرة، إلا أن الافتقار إلى إطار حوكمة ناضج قد يؤدي إلى عواقب وخيمة، مثل التحيز في قرارات الائتمان، أو أخطاء المعاملات، أو تسرب بيانات العملاء.## التأثير على النظام المالي

ينشر الذكاء الاصطناعي ويغير النظام المالي من أربعة أبعاد:

• كفاءة المدفوعات: تقلل أنظمة الدفع الفورية المدعومة بالذكاء الاصطناعي من التأخير والأخطاء من خلال الكشف عن السلوك غير الطبيعي والتسوية الآلية، ولكن الأخطاء في النموذج قد تؤدي إلى حظر المدفوعات أو عدم اكتشاف الاحتيال.
• الشمول المالي: يتيح التصنيف الائتماني بالذكاء الاصطناعي الحصول على القروض للأشخاص غير المصرفيين، لكن التحيز الخوارزمي قد يزيد من عدم المساواة. يساعد توثيق قابلية التتبع وفقًا للمتطلبات التنظيمية في تقليل التحيز.
• المنافسة المصرفية: تمتلك البنوك الكبيرة الموارد اللازمة لبناء الذكاء الاصطناعي الخاص بها، بينما تعتمد البنوك الصغيرة والمتوسطة على موردين خارجيين، مما يثير مخاطر تقييد الموردين ومخاطر سلسلة توريد النماذج. في سلسلة المساءلة، يتحمل البنك بصفته المنفذ النهائي المسؤولية الأكبر عادةً.
• تكاليف الامتثال: لتلبية متطلبات الشفافية والتوثيق، تحتاج البنوك إلى إنشاء أطر إدارة النماذج، بما في ذلك نسب النموذج واختبارات التحقق والتدقيق الخارجي، مما يزيد من تكاليف التشغيل.
• إدارة المخاطر: يمكن للذكاء الاصطناعي تمكين البنوك من مراقبة المخاطر في الوقت الفعلي، لكن طبيعة "الصندوق الأسود" للنموذج نفسه تجعل تقييم المخاطر صعبًا. بدأت الهيئات التنظيمية تطالب بخطوط أنابيب تقييم قابلة للتكرار وأدلة قابلة للتدقيق.

التحديات التي تواجه

• خصوصية البيانات: يعتمد تدريب الذكاء الاصطناعي على كميات كبيرة من بيانات العملاء، وتحتاج البنوك إلى الموازنة بين الامتثال (مثل اللائحة العامة لحماية البيانات) وأداء النموذج. تقنيات مثل الخصوصية التفاضلية والتعلم الموحد لم تنشر بعد على نطاق واسع.
• الأمن السيبراني: أصبحت أنظمة الذكاء الاصطناعي أهدافًا جديدة للهجمات الإلكترونية، مثل الهجمات العدائية التي يمكنها خداع النماذج لاتخاذ قرارات خاطئة. تحتاج البنوك إلى تعزيز اختبار الفريق الأحمر وآليات الكشف عن الحالات الشاذة.
• التكامل التقني: يتطلب دمج الذكاء الاصطناعي في البنية التحتية المصرفية الحالية (مثل أنظمة البنوك الأساسية) تعديلات كبيرة. تواجه العديد من البنوك مشكلات توافق مع الأنظمة القديمة.
• عدم اليقين التنظيمي: يجعل تجزئة التنظيم العالمي من الصعب على البنوك متعددة الجنسيات توحيد المعايير. على سبيل المثال، هناك اختلافات بين تصنيف المخاطر العالية في الاتحاد الأوروبي والنهج التصاعدي في الولايات المتحدة.

التوقعات المستقبلية

في السنوات الثلاث إلى الخمس المقبلة، من المتوقع أن تحدد الهيئات التنظيمية بوضوح حالات استخدام الذكاء الاصطناعي "عالية المخاطر" في القطاع المالي، وتصدر معايير توثيق أكثر تحديدًا. قد تنشر البنوك طواعية معايير تقييم موحدة أو نتائج تدقيق خارجي لبناء الثقة في الصناعة. على الصعيد التقني، ستحظى الذكاء الاصطناعي القابل للتفسير وواجهات التعاون بين الإنسان والآلة باهتمام أكبر. قد تصبح ضوابط الاحتواء ومنتجات تأمين النماذج ممارسة معيارية.

بشكل عام، لا يعتمد نجاح الذكاء الاصطناعي في القطاع المصرفي على دقة الخوارزمية فحسب، بل يعتمد أيضًا على قدرة الصناعة على إنشاء أطر للمساءلة والأمان المنهجية. كما قال سيليستينو أموري في المناقشة: يجب أن تتطور آليات الرقابة بالتزامن مع قدرات الذكاء الاصطناعي.