سازمان پولی سنگاپور (MAS) در اقدامی پیشگامانه، دستورالعمل‌های سخت‌گیرانه‌ای را برای استفاده از هوش مصنوعی در مؤسسات مالی منتشر کرده است که تمامی کاربردها را پیش از عملیاتی شدن، مشمول بازبینی مستقل می‌کند.
رویکرد نظارتی جدید MAS در مواجهه با ماهیت احتمالی هوش مصنوعی
در مهرماه ۱۴۰۵، سازمان پولی سنگاپور (Monetary Authority of Singapore) به عنوان نهاد ناظر بر یکی از مهم‌ترین قطب‌های مالی جهان، سند راهبردی جدیدی را پیرامون مدیریت ریسک هوش مصنوعی منتشر کرد. این نهاد با تحلیل دقیق ابعاد فنی، هوش مصنوعی را دارای طبیعتی «احتمالی» (Probabilistic) می‌داند که ذاتاً با عدم قطعیت همراه است. برخلاف سیستم‌های الگوریتمیک کلاسیک، مدل‌های هوش مصنوعی مدرن و به‌ویژه هوش مصنوعی مولد (Generative AI)، ممکن است رفتارهایی غیرمنتظره یا سوگیری‌های پنهانی بروز دهند که شناسایی آن‌ها در زیرساخت‌های سنتی دشوار است.
الزامات بازبینی مستقل و مدیریت چرخه عمر مدل
یکی از ارکان اصلی این بخشنامه، لزوم بازبینی مستقل (Independent Review) پیش از استقرار در محیط عملیاتی (Production) است. بر اساس این دستورالعمل، مؤسسات مالی ملزم هستند تمامی سیستم‌های مبتنی بر هوش مصنوعی را توسط تیم‌هایی که در توسعه آن نقشه نداشته‌اند، ارزیابی کنند. این ارزیابی باید شامل موارد زیر باشد:
- تأیید صحت کنترل‌های فنی و تست‌های انجام شده.
- بررسی پایداری و امنیت مدل در برابر حملات تزریق داده یا نویز.
- اطمینان از وجود زیرساخت‌های لازم برای نظارت مستمر (Ongoing Monitoring) جهت جلوگیری از افت عملکرد (Model Drift).
مسئولیت‌پذیری در قبال سیستم‌های شخص ثالث
از منظر معماری و عملیات ابری، MAS تأکید ویژه‌ای بر «پاسخگویی نهایی» مؤسسات مالی دارد. این نهاد تصریح کرده است که حتی اگر بخشی از هوش مصنوعی توسط پیمانکاران خارجی یا سرویس‌های ابری (Third-party AI) تأمین شود، مسئولیت عملکرد آن مستقیماً بر عهده مؤسسه مالی است. این بدین معناست که مؤسسات باید نسبت به مدل‌های استقرار یافته، فرآیندهای تضمین کیفیت (QA) دقیقی اعمال کنند و در صورت عدم تطابق با استانداردهای ریسک، بلافاصله نسبت به تعلیق یا جایگزینی سرویس‌های شخص ثالث اقدام نمایند.
خلاصه دستورالعمل‌های اجرایی MAS
- تاریخ اجرایی شدن: ۱۵ مهر ۱۴۰۶
- الزام بازبینی: اجباری برای تمامی کاربردهای AI پیش از ورود به محیط تولید
- مدیریت زنجیره تأمین: مسئولیت تضامنی در قبال هوش مصنوعی شخص ثالث
- استراتژی شکست: الزام به توسعه سیستم‌های جایگزین (Fallback) و فرآیندهای دستی
- پایش عملکرد: کنترل مداوم مدل جهت جلوگیری از تخریب عملکرد بر اثر Drift داده‌ها
توسعه راهکارهای شکست و تداوم کسب‌وکارهای مالی
سازمان پولی سنگاپور در این راهنما بر ضرورت ایجاد طرح‌های اضطراری (Contingency Plans) تأکید دارد. با توجه به ماهیت غیرقابل پیش‌بینی مدل‌های «عامل‌محور» (Agentic AI)، مؤسسات مالی موظف شده‌اند برای اپلیکیشن‌های با ریسک بالا، سیستم‌های جایگزین یا فرآیندهای دستی تعریف کنند تا در صورت بروز خطای سیستماتیک در هوش مصنوعی، تداوم کسب‌وکار (Business Continuity) تضمین شود. نگهداری موجودی دقیق (Inventory) از تمامی مدل‌های فعال، از دیگر وظایفی است که به سازمان‌ها محول شده تا حتی در صورت استفاده از سرویس‌های ناشناخته، ریسک آن‌ها قابل مدیریت باشد.
