حکمرانی جهانی بر هوش مصنوعی: هشدار آلتمن و آمودی در شورای امنیت سازمان ملل

در تحولی بی‌سابقه در فضای حکمرانی فناوری، سم آلتمن، مدیرعامل OpenAI و داریو آمودی، مدیرعامل Anthropic، با حضور در نشست شورای امنیت سازمان ملل، نسبت به پیامدهای جبران‌ناپذیر توسعه بی‌رویه هوش مصنوعی هشدار دادند. این حضور که در تابستان ۱۴۰۲ صورت گرفت، سرآغاز تلاش‌های دیپلماتیک برای ایجاد چارچوبی جهانی جهت نظارت بر مدل‌های زبانی بزرگ (LLM) است.

چالش‌های امنیتی و سلاح‌های بیولوژیک

یکی از محورهای اصلی این نشست، توانمندی‌های بالقوه هوش مصنوعی در تسهیل تولید و توسعه سلاح‌های بیولوژیک بود. رهبران شرکت‌های پیشرو در این حوزه تصریح کردند که بدون نظارت دقیق و اعمال استانداردهای فنی، هوش مصنوعی می‌تواند به ابزاری برای عبور از مرزهای اخلاقی و ایجاد تهدیدات امنیت زیستی تبدیل شود. این دیدگاه، تغییر پارادایمی در نگرش صنعت به پروتکل‌های ایمنی (AI Safety) را نشان می‌دهد.

ضرورت نظارت و همکاری بین‌المللی

آلتمن و آمودی بر این نکته تأکید کردند که توسعه هوش مصنوعی نباید در خلاء قانونی رخ دهد. پیشنهادهای ارائه شده شامل موارد زیر است:

• تدوین معاهدات بین‌المللی برای بازرسی از مدل‌های هوش مصنوعی با مقیاس بزرگ.
• ایجاد استانداردهای پایش مداوم برای جلوگیری از رفتارهای پیش‌بینی‌نشده مدل‌های هوش مصنوعی.
• توقف توسعه کاربردهایی که مستقیم با امنیت ملی و بیوتروریسم مرتبط هستند.

اثرات بر اکوسیستم فناوری ایران

برای شرکت‌های ایرانی و توسعه‌دهندگان محلی، این هشدارهای جهانی به معنای حرکت به سمت «هوش مصنوعی مسئولانه» (Responsible AI) است. با توجه به توسعه مدل‌های بومی، توجه به چارچوب‌های اخلاقی و نظارتی بین‌المللی می‌تواند از انزوای فناوری جلوگیری کرده و همسویی با استانداردهای جهانی را تسهیل کند. کسب‌وکارهای دیجیتال ایرانی باید در طراحی زیرساخت‌های هوشمند خود، ملاحظات امنیتی و الگوریتم‌های فیلترکننده داده‌های حساس را در اولویت قرار دهند.