معماری حکمرانی هوش مصنوعی؛ عبور از «شکاف مسئولیت‌پذیری» در زیست‌بوم فناوری ایران

با گسترش نفوذ الگوریتم‌های هوش مصنوعی (AI) در ارکان اقتصادی و اجتماعی، مرکز پژوهش‌های مجلس در گزارشی راهبردی، زنگ خطر «شکاف مسئولیت‌پذیری» را برای حاکمیت و کسب‌وکارهای دیجیتال ایران به صدا درآورده است. این گزارش با رویکردی مهندسی و حقوقی، بر این نکته پافشاری می‌کند که فناوری نباید به پوششی برای گریز از پاسخگویی انسانی تبدیل شود.

چالش فنی «شکاف مسئولیت‌پذیری» و ابهام در عاملیت

مساله شکاف مسئولیت‌پذیری زمانی رخ می‌دهد که یک سامانه خودمختار (Autonomous System) پیامدی ناخواسته یا آسیب‌زا ایجاد می‌کند، اما به دلیل پیچیدگی‌های معماری، انتساب آن به یک عامل انسانی مشخص دشوار می‌شود. از منظر فنی، در مدل‌های یادگیری عمیق (Deep Learning) که اغلب به صورت «جعبه سیاه» عمل می‌کنند، رهگیری مسیر تصمیم‌سازی الگوریتم دشوار است. مرکز پژوهش‌های مجلس با درک این پیچیدگی، پیشنهاد تغییر پارادایم از رویکرد «گذشته‌نگر» (جستجوی مقصر پس از حادثه) به رویکرد «آینده‌نگر» (تعبیه نظارت انسانی در طراحی) را مطرح کرده است.

الگوبرداری از قانون هوش مصنوعی اتحادیه اروپا (EU AI Act)

گزارش مذکور با استناد به قانون هوش مصنوعی اتحادیه اروپا، مدلی از طبقه‌بندی ریسک را پیشنهاد می‌دهد. در این مدل، سامانه‌های هوش مصنوعی نه بر اساس ماهیت فنی‌شان، بلکه بر مبنای میزان ریسک برای حقوق بنیادین انسان‌ها دسته‌بندی می‌شوند. شفافیت در مستندسازی تصمیمات، قابلیت توضیح‌پذیری (Explainability) و حفظ نظارت انسانی (Human-in-the-loop) به عنوان الزامات زیرساختی برای توسعه‌دهندگان در حوزه‌های پرمخاطره (نظیر سلامت و قضاوت) مطرح شده است تا زنجیره مسئولیت هرگز قطع نشود.

زیرساخت‌های حکمرانی و نقش سازمان ملی هوش مصنوعی

در حالی که ایران در مراحل اولیه توسعه بازارهای هوش مصنوعی قرار دارد، نبود زیرساخت یکپارچه داده می‌تواند این شکاف را عمیق‌تر کند. سازمان ملی هوش مصنوعی به عنوان متولی امر، اکنون مسئولیت تدوین چارچوب‌های سخت‌گیرانه برای «حکمرانی داده» و «ارزیابی اخلاقی» را بر عهده دارد. پیشنهادهای کلیدی شامل موارد زیر است:

• تدوین شاخص‌های کمی برای ارزیابی عملکرد مسئولانه سازمان‌ها در چرخه حیات مدل‌های هوش مصنوعی.
• ایجاد کارگروه‌های ارزیابی اخلاقی درون‌سازمانی برای بازرسی تصمیمات الگوریتمیک.
• مستندسازی ساختار اجتماعی و فنی توسعه هوش مصنوعی برای شفاف‌سازی روابط میان بازیگران.
• مشوق‌های مالیاتی و قانونی برای کسب‌وکارهایی که اصول اخلاقی و مسئولیت‌پذیری را در توسعه محصول (Product Development) لحاظ می‌کنند.

نتیجه‌گیری برای اکوسیستم کسب‌وکارهای دیجیتال

برای توسعه‌دهندگان و شرکت‌های فناور ایرانی، این گزارش نه به عنوان یک مانع، بلکه به عنوان نقشه راهی برای بلوغ در حکمرانی دیجیتال است. پیشگیری از شکاف مسئولیت‌پذیری با تعبیه لایه‌های نظارتی در نرم‌افزار و شفافیت در مستندات پروژه، نه تنها ریسک‌های حقوقی آینده را کاهش می‌دهد، بلکه اعتماد عمومی را که دارایی اصلی هر کسب‌وکار هوش مصنوعی‌محور است، ارتقا می‌دهد.